1 00:00:02,000 --> 00:00:07,000 2 00:00:02,654 --> 00:00:04,656 [gran fanfarria orquestal jugando] 3 00:00:08,000 --> 00:00:13,000 4 00:00:27,636 --> 00:00:29,681 ♪ ♪ 5 00:00:41,389 --> 00:00:43,217 [pájaros cantando y llamando] 6 00:00:48,657 --> 00:00:50,833 -[burbujeo] -[trinando] 7 00:00:55,055 --> 00:00:57,057 [VCR hace clic y zumba] 8 00:01:00,582 --> 00:01:02,018 [clic del proyector] 9 00:01:04,847 --> 00:01:09,286 Ahora bien, las computadoras actuales son completos idiotas, 10 00:01:09,330 --> 00:01:12,115 pero esto no será verdad en otra generación. 11 00:01:12,159 --> 00:01:14,857 Empezarán a pensar, y eventualmente lo harán 12 00:01:14,900 --> 00:01:17,599 pensar completamente más sus creadores. 13 00:01:17,642 --> 00:01:20,254 ¿Es esto deprimente? No veo por qué debería ser así. 14 00:01:20,297 --> 00:01:24,823 Sospecho que orgánico o evolución biológica 15 00:01:24,867 --> 00:01:26,303 casi ha llegado a su fin. 16 00:01:27,739 --> 00:01:29,524 [Daniel se ríe] 17 00:01:29,567 --> 00:01:30,655 CAROLINA: No me quieres ser el narrador. 18 00:01:30,699 --> 00:01:32,353 No tengo buena voz. 19 00:01:32,396 --> 00:01:34,006 DANIEL: Tienes una gran voz. Hazlo. 20 00:01:34,050 --> 00:01:36,183 Es solo un-- sólo lo estamos probando. 21 00:01:36,226 --> 00:01:37,967 CAROLINA: ¿Me pagan por esta mierda? 22 00:01:38,010 --> 00:01:40,230 DANIEL [riendo]: Bueno, veremos qué tan bien lo haces. 23 00:01:40,274 --> 00:01:41,579 [Carolina ríe] 24 00:01:41,623 --> 00:01:43,451 -♪ ♪ -[perro ladra] 25 00:01:46,454 --> 00:01:47,890 CAROLINA: Necesito llamar a mis padres. 26 00:01:47,933 --> 00:01:49,065 [el motor arranca] 27 00:01:49,109 --> 00:01:51,023 A veces nos apresuramos en las cosas 28 00:01:51,067 --> 00:01:52,851 sin pensarlos bien. 29 00:01:52,895 --> 00:01:54,723 DANIEL: Sí, ¿puedes sh...? quieres disparar? Eso es... 30 00:01:54,766 --> 00:01:57,204 CAROLINE: Como cuando Daniel y carolina se casó 31 00:01:57,247 --> 00:02:00,163 151 días después de conocerse. 32 00:02:00,207 --> 00:02:01,817 Retrocedamos. 33 00:02:03,079 --> 00:02:04,776 [aplausos] 34 00:02:04,820 --> 00:02:07,170 ¿Has estado pensando en ¿Comprar una computadora en casa? 35 00:02:07,214 --> 00:02:09,303 CAROLINA: En 1993, cuando nació Daniel, 36 00:02:09,346 --> 00:02:12,132 sus padres ni siquiera tenían una computadora en la casa. 37 00:02:12,175 --> 00:02:13,785 pero el recuerda cuando finalmente consiguieron uno. 38 00:02:13,829 --> 00:02:15,700 Lo que es una computadora para mí es 39 00:02:15,744 --> 00:02:18,355 el equivalente a una bicicleta para nuestras mentes. 40 00:02:18,399 --> 00:02:20,227 Hola. 41 00:02:20,270 --> 00:02:22,185 CAROLINE: Su computadora ayudó dar rienda suelta a su creatividad. 42 00:02:22,229 --> 00:02:23,926 DANIEL: Rodando. Ir. 43 00:02:23,969 --> 00:02:26,581 CAROLINA: Él usó el iMac de su padre para editar vídeos. 44 00:02:26,624 --> 00:02:28,322 ¡Sí! 45 00:02:28,365 --> 00:02:29,932 CAROLINE: E incluso hacer pequeñas animaciones. 46 00:02:29,975 --> 00:02:31,934 [llantas chirriando, choque] 47 00:02:31,977 --> 00:02:35,067 En 1998, cuando Caroline era una niña... 48 00:02:35,111 --> 00:02:36,721 Hola mami. 49 00:02:36,765 --> 00:02:38,158 ...sólo los nerds lo sabían lo que era Internet. 50 00:02:38,201 --> 00:02:39,811 ¿Y qué pasa con ¿Esto de Internet? 51 00:02:39,855 --> 00:02:41,335 -¿Sabes algo? sobre eso? -Seguro. 52 00:02:41,378 --> 00:02:42,771 -[risas de la audiencia] -CAROLINA: Pero pronto, 53 00:02:42,814 --> 00:02:44,903 -todos estaban en el... -...Internet. 54 00:02:44,947 --> 00:02:46,992 ...y las computadoras estaban vencer a los humanos en el ajedrez. 55 00:02:47,036 --> 00:02:49,995 LOCUTOR: Deep Blue-- ¡Kasparov ha dimitido! 56 00:02:50,039 --> 00:02:52,607 CAROLINE: Y para cuando Carolina fue a la universidad, 57 00:02:52,650 --> 00:02:55,087 las computadoras eran en el bolsillo de todos. 58 00:02:55,131 --> 00:02:58,395 Ahora Daniel podría hacer películas. con su teléfono. 59 00:02:58,439 --> 00:03:01,485 Creció para ser artista. y un cineasta... 60 00:03:01,529 --> 00:03:03,922 -Buenas noches. -...y Caroline también. 61 00:03:03,966 --> 00:03:05,707 Cortar. Entremos en primer plano. Eso fue perfecto. 62 00:03:05,750 --> 00:03:07,274 Para entonces, las computadoras eran conectando personas 63 00:03:07,317 --> 00:03:08,971 y cambiar el mundo de maneras 64 00:03:09,014 --> 00:03:10,668 que nosotros nunca podría haber imaginado. 65 00:03:10,712 --> 00:03:12,322 Todo el dinero recaudado por el desafío del cubo de hielo... 66 00:03:12,366 --> 00:03:14,194 CAROLINA: Algo de eso fue bueno. 67 00:03:14,237 --> 00:03:15,499 [jadeando] 68 00:03:15,543 --> 00:03:17,109 Algunos no tan buenos. 69 00:03:17,153 --> 00:03:19,286 Ansiedad, autolesiones, suicidio... 70 00:03:19,329 --> 00:03:21,201 Pero ahora está claro que no hicimos lo suficiente 71 00:03:21,244 --> 00:03:24,552 para evitar que estas herramientas siendo utilizado para hacer daño también. 72 00:03:24,595 --> 00:03:26,380 CAROLINE: Y como el mundo se centró cada vez más 73 00:03:26,423 --> 00:03:28,033 -en sus computadoras, -[sonidos del teléfono] 74 00:03:28,077 --> 00:03:30,210 Daniel se centró en su obra de arte. 75 00:03:32,037 --> 00:03:35,606 Dondequiera que fuera, siempre tenía un cuaderno de bocetos, 76 00:03:35,650 --> 00:03:38,392 incluyendo la noche conoció a Carolina. 77 00:03:38,435 --> 00:03:41,656 Hizo un dibujo terrible de ella, y 20 minutos después, 78 00:03:41,699 --> 00:03:44,136 pronunció con valentía se iban a casar, 79 00:03:44,180 --> 00:03:47,575 lo cual, como usted sabe, hicieron, 151 días después. 80 00:03:47,618 --> 00:03:49,925 MUJER: ...ahora te pronuncio marido y mujer. 81 00:03:49,968 --> 00:03:51,666 CAROLINA: Se mudaron a una linda casa... 82 00:03:51,709 --> 00:03:52,841 -DANIEL: ¡Alce, oye! ¡Ven aquí! -...y tengo un perro 83 00:03:52,884 --> 00:03:54,669 tan tonto como Daniel. 84 00:03:54,712 --> 00:03:57,280 Mientras tanto, las computadoras estaban escribir ensayos completos 85 00:03:57,324 --> 00:03:59,326 basado en preguntas simples como, 86 00:03:59,369 --> 00:04:03,155 "¿Qué tan difícil sería construir ¿Una choza en mi patio trasero? 87 00:04:03,199 --> 00:04:07,072 Y entonces Daniel construyó una choza. en su patio trasero. 88 00:04:07,116 --> 00:04:09,945 Pero justo cuando se sentó para empezar trabajando en su próxima película, 89 00:04:09,988 --> 00:04:13,644 aprendió que las computadoras Ahora podía escribir guiones. 90 00:04:14,863 --> 00:04:16,560 Quiero decir, eran malos, 91 00:04:16,604 --> 00:04:18,954 pero estaban mejorando muy rápido. 92 00:04:18,997 --> 00:04:21,652 Podrían crear nuevas imágenes. y vídeos desde cero, 93 00:04:21,696 --> 00:04:24,786 y algunos de ellos Incluso podría aprobar el examen de la abogacía. 94 00:04:24,829 --> 00:04:28,833 No sólo pasar el listón sino estar en el percentil diez superior. 95 00:04:28,877 --> 00:04:30,531 CAROLINA: Fue confuso. 96 00:04:30,574 --> 00:04:32,141 [suspiros] 97 00:04:32,184 --> 00:04:35,057 daniel solo queria una bicicleta para su mente, 98 00:04:35,100 --> 00:04:38,626 pero las computadoras se habían convertido un cohete autónomo. 99 00:04:38,669 --> 00:04:40,236 [silbido] 100 00:04:40,280 --> 00:04:41,977 ["Nosotros tenemos el control" por Neil Young jugando] 101 00:04:42,020 --> 00:04:44,762 Pioneros en el campo de inteligencia artificial 102 00:04:44,806 --> 00:04:46,503 están suplicando al Congreso 103 00:04:46,547 --> 00:04:48,505 pasar reglas de seguridad antes de que sea demasiado tarde. 104 00:04:48,549 --> 00:04:50,551 CAROLINE: Ahora se sentía como el mundo entero 105 00:04:50,594 --> 00:04:52,988 estaba corriendo hacia algo sin pensarlo bien, 106 00:04:53,031 --> 00:04:56,339 y todos tenían una opinión. 107 00:04:56,383 --> 00:05:00,125 ¿Iba a destruir el mundo? o salvar a la humanidad? 108 00:05:00,169 --> 00:05:02,389 Había demasiada información 109 00:05:02,432 --> 00:05:04,652 lo que lo puso ansioso, lo que puso ansiosa a Caroline... 110 00:05:04,695 --> 00:05:06,001 [grito exasperado] 111 00:05:06,044 --> 00:05:07,785 Todavía no tengo hijos pero me preocupa 112 00:05:07,829 --> 00:05:10,179 cómo sería el mundo si lo decido. [risas] 113 00:05:10,222 --> 00:05:12,355 CAROLINA: Estaba empezando a girar. 114 00:05:12,399 --> 00:05:14,052 [charla confusa] 115 00:05:14,096 --> 00:05:16,925 se estaba volviendo una montaña de ansiedad. 116 00:05:19,144 --> 00:05:21,364 -HOMBRE: Es horrible. -Es la maldita Siri. 117 00:05:22,670 --> 00:05:25,586 CAROLINA: Y así, Daniel decidió salir. 118 00:05:25,629 --> 00:05:27,979 y encontrar a alguien ¿Quién podría explicarle esto? 119 00:05:28,023 --> 00:05:30,155 para que pudiera parar pensando en ello 120 00:05:30,199 --> 00:05:33,463 y él y Caroline podrían seguir con sus vidas. 121 00:05:33,507 --> 00:05:36,814 ♪ Tenemos el control, nosotros tenemos el control ♪ 122 00:05:36,858 --> 00:05:38,729 ♪ Tenemos el control ♪ 123 00:05:38,773 --> 00:05:40,514 ♪ Computadora química batería pensante ♪ 124 00:05:40,557 --> 00:05:42,559 ♪ Tenemos el control, estamos... ♪ 125 00:05:42,603 --> 00:05:45,693 Este esfuerzo resultaría ser irremediablemente ingenuo 126 00:05:45,736 --> 00:05:49,044 y dar inicio a lo más confuso año de su vida. 127 00:05:49,087 --> 00:05:50,698 ♪ Tenemos el control... ♪ 128 00:05:50,741 --> 00:05:52,787 Pero como sabemos, a veces nos apresuramos en las cosas 129 00:05:52,830 --> 00:05:54,615 sin pensarlos bien. 130 00:05:54,658 --> 00:05:56,356 ♪ Computadora química batería pensando... ♪ 131 00:05:56,399 --> 00:05:57,922 Dios mío. ¿Lo que está sucediendo? 132 00:05:57,966 --> 00:05:59,924 CAROLINA: Tenía preguntas. 133 00:05:59,968 --> 00:06:01,578 Preguntas sólo el Los nerds más inteligentes podrían responder. 134 00:06:01,622 --> 00:06:04,146 Sometiéndose al interrogador. 135 00:06:04,189 --> 00:06:06,017 CAROLINA: Preguntas como: 136 00:06:06,061 --> 00:06:08,585 ¿Fue este el apocalipsis? o realmente tenia razon 137 00:06:08,629 --> 00:06:11,109 -¿ser optimista? -Sí. 138 00:06:11,153 --> 00:06:13,764 -♪ Pensamiento químico por computadora batería. ♪ -[termina la canción] 139 00:06:13,808 --> 00:06:16,158 CAROLINA: ¿Eso es bueno? 140 00:06:16,201 --> 00:06:17,594 DANIEL: Sí. 141 00:06:17,638 --> 00:06:20,162 Entonces, para empezar, 142 00:06:20,205 --> 00:06:22,120 ¿Qué es la inteligencia artificial? 143 00:06:22,164 --> 00:06:24,688 se que debe ser molesto para ti, esa-esa pregunta, 144 00:06:24,732 --> 00:06:26,473 pero creo que es importante. 145 00:06:26,516 --> 00:06:29,780 Entonces... IA... 146 00:06:29,824 --> 00:06:31,826 [tartamudea] Um... 147 00:06:31,869 --> 00:06:33,654 -Sí... -Eh, mmm. 148 00:06:33,697 --> 00:06:34,742 [risas]: Esa es una buena pregunta. 149 00:06:34,785 --> 00:06:36,178 -Sí, eh... -Eh... 150 00:06:36,221 --> 00:06:37,658 DANIEL: ¿Qué es la IA? 151 00:06:37,701 --> 00:06:39,094 [risas] 152 00:06:39,137 --> 00:06:40,748 me encanta eso es la primera pregunta, 153 00:06:40,791 --> 00:06:43,141 porque no hay una respuesta clara y coherente. 154 00:06:43,185 --> 00:06:45,274 La inteligencia artificial es 155 00:06:45,317 --> 00:06:50,714 una especie de intencionalmente y tal vez un término inútilmente amplio. 156 00:06:50,758 --> 00:06:53,325 DAVID EVAN HARRIS: es una maquina 157 00:06:53,369 --> 00:06:55,545 haciendo cosas que antes solo pensábamos 158 00:06:55,589 --> 00:06:57,242 que la gente podría hacer: 159 00:06:57,286 --> 00:07:01,116 haciendo recomendaciones, decisiones y predicciones. 160 00:07:01,159 --> 00:07:06,774 La IA es la aplicación. de informática 161 00:07:06,817 --> 00:07:09,124 a la resolución de problemas cognitivos. 162 00:07:09,167 --> 00:07:13,302 Bien, entonces cuando me imagino la IA, 163 00:07:13,345 --> 00:07:16,740 es algo así como esta mágica caja de computadora... 164 00:07:16,784 --> 00:07:18,786 ♪ ♪ 165 00:07:20,527 --> 00:07:24,095 ...simplemente, como, flotando en algo así como un espacio inerte. 166 00:07:24,139 --> 00:07:26,446 y no importa cuantas veces la gente lo intenta 167 00:07:26,489 --> 00:07:29,710 y explícame esto, Simplemente no entiendo cómo... 168 00:07:29,753 --> 00:07:32,495 como se entiende todas estas cosas 169 00:07:32,539 --> 00:07:35,672 y como se siente inteligencia. 170 00:07:35,716 --> 00:07:37,152 [pitidos, parloteo electrónico] 171 00:07:37,195 --> 00:07:39,241 Y eso es una especie de estresante. 172 00:07:41,243 --> 00:07:45,552 AZA RASKIN: ¿Qué es? ¿Esta nueva generación de IA? 173 00:07:47,205 --> 00:07:50,078 Esta IA que es diferente a ¿Cada otra generación? 174 00:07:50,121 --> 00:07:52,733 Como, nadie nunca habló de, como, 175 00:07:52,776 --> 00:07:56,911 Siri conquistando el mundo o provocar catástrofes. 176 00:07:56,954 --> 00:07:58,478 -MUJER: ¿Hola, Siri? -HOMBRE: ...quiero. 177 00:07:58,521 --> 00:08:00,523 MUJER: Hola? ¿Siri? 178 00:08:00,567 --> 00:08:02,569 ¿Hola? ¡Oye, Siri! 179 00:08:02,612 --> 00:08:05,746 O la voz en Google Maps, que pronuncia mal los nombres de las carreteras, 180 00:08:05,789 --> 00:08:07,487 como, romper la sociedad. 181 00:08:07,530 --> 00:08:10,620 HOMBRE: Google Maps dice este es un camino. 182 00:08:10,664 --> 00:08:13,057 [riendo]: Pero creo que estoy en un río. 183 00:08:13,101 --> 00:08:14,624 Este es definitivamente un río ¿no? 184 00:08:14,668 --> 00:08:17,192 algo cambió con ChatGPT saliendo. 185 00:08:18,193 --> 00:08:19,934 La gente entendió... no, no, no... 186 00:08:19,977 --> 00:08:21,457 esta tecnología increíblemente valioso, 187 00:08:21,501 --> 00:08:23,633 es increíblemente poderoso y también increíblemente aterrador. 188 00:08:23,677 --> 00:08:25,548 Bien, escucha esto. Muy espeluznante. 189 00:08:25,592 --> 00:08:28,595 Una nueva inteligencia artificial La herramienta se está volviendo viral. 190 00:08:28,638 --> 00:08:32,294 por producir ensayos completos en cuestión de segundos. 191 00:08:35,950 --> 00:08:41,172 La IA eclipsa el poder de todos otras tecnologías combinadas. 192 00:08:41,216 --> 00:08:43,697 DANIEL: "La IA eclipsa el poder 193 00:08:43,740 --> 00:08:46,047 de todas las demás tecnologías combinados." 194 00:08:46,090 --> 00:08:47,222 Sí. 195 00:08:47,265 --> 00:08:48,702 ¿Crees que eso es verdad? 196 00:08:48,745 --> 00:08:50,747 Sí. 197 00:08:50,791 --> 00:08:53,184 Cuéntame sobre... ¿Cómo? ¿Cómo? 198 00:08:53,228 --> 00:08:56,710 Creo que para pintar ese cuadro, es realmente importante 199 00:08:56,753 --> 00:09:00,627 para entender lo que es hoy sistemas de última generación 200 00:09:00,670 --> 00:09:02,150 cómo se ven y cómo están construidos. 201 00:09:02,193 --> 00:09:05,762 [risas] Esto es Todo un... todo un montaje. 202 00:09:05,806 --> 00:09:07,242 Entonces, una cosa que 203 00:09:07,285 --> 00:09:09,679 no mucha gente darse cuenta es que 204 00:09:09,723 --> 00:09:13,683 sistemas como ChatGPT no lo son programado por cualquier humano. 205 00:09:13,727 --> 00:09:15,206 ¿Qué quieres decir? 206 00:09:15,250 --> 00:09:16,991 En cambio, es algo así como Ya han crecido. 207 00:09:17,034 --> 00:09:19,167 Les damos algo así recursos crudos, como, 208 00:09:19,210 --> 00:09:20,995 "Aquí hay un montón de recursos computacionales. 209 00:09:21,038 --> 00:09:22,170 Aquí hay muchos datos". 210 00:09:22,213 --> 00:09:23,867 Debajo del capó, son matemáticas. 211 00:09:23,911 --> 00:09:27,305 y las matemáticas son en realidad sorprendentemente sencillo. 212 00:09:27,349 --> 00:09:31,092 DANIEL: Entonces ChatGPT es una especie de la IA pero no es toda la IA? 213 00:09:31,135 --> 00:09:32,659 Totalmente. ChatGPT es solo el comienzo, 214 00:09:32,702 --> 00:09:34,095 pero es un buen punto de partida. 215 00:09:34,138 --> 00:09:37,794 Pero todavía no lo sé qué es la IA. 216 00:09:37,838 --> 00:09:40,362 Para entender la IA, comienza con la comprensión 217 00:09:40,405 --> 00:09:43,147 que la inteligencia se trata reconocer patrones. 218 00:09:43,191 --> 00:09:44,845 -Patrones. -Patrones. -Patrones. 219 00:09:44,888 --> 00:09:48,544 COTRA: Se muestra billones de palabras de texto 220 00:09:48,588 --> 00:09:51,286 en millones de documentos en Internet. 221 00:09:51,329 --> 00:09:52,766 RÁNDIMA FERNANDO: Comenzó con texto. 222 00:09:52,809 --> 00:09:55,899 Y lo que hicieron fue se llevaron los libros de texto, 223 00:09:55,943 --> 00:09:59,511 y tomaron poemas y ensayos y manuales de instrucciones. 224 00:09:59,555 --> 00:10:00,861 DAVID EVAN HARRIS: Pueden hacer cosas como 225 00:10:00,904 --> 00:10:03,124 digerir todo Internet, 226 00:10:03,167 --> 00:10:06,736 cada palabra que alguna vez sido escrito por una persona. 227 00:10:06,780 --> 00:10:09,957 Hilos de Reddit y redes sociales y toda Wikipedia. 228 00:10:10,000 --> 00:10:13,613 Más datos de los que nadie podría leído alguna vez en varias vidas. 229 00:10:13,656 --> 00:10:15,484 Y le dieron este sistema. un trabajo. 230 00:10:15,527 --> 00:10:18,487 Descubra los patrones y estructura de esa información 231 00:10:18,530 --> 00:10:20,750 y usa eso hacer predicciones sobre 232 00:10:20,794 --> 00:10:23,231 ¿Qué palabra debería venir después? en una oración. 233 00:10:23,274 --> 00:10:24,972 cuando dices "patrones en una oración", 234 00:10:25,015 --> 00:10:26,756 ¿De qué estás hablando? 235 00:10:26,800 --> 00:10:29,367 Entonces, es todo, desde, como, las cosas realmente simples, 236 00:10:29,411 --> 00:10:31,979 como terminan la mayoría de las oraciones con un punto, 237 00:10:32,022 --> 00:10:34,895 todo el camino hasta el cosas más conceptuales, como: 238 00:10:34,938 --> 00:10:36,766 ¿Qué es un soneto? 239 00:10:36,810 --> 00:10:38,333 Es un tipo de poema, y tiene alguna estructura particular. 240 00:10:39,421 --> 00:10:41,249 RASKIN: Entonces, luego mira 241 00:10:41,292 --> 00:10:43,599 todos esos datos, todo ese texto... 242 00:10:43,643 --> 00:10:46,036 COTRA: Y más de billones y billones de intentos, 243 00:10:46,080 --> 00:10:48,778 cada vez que consigue algo bien o mal, 244 00:10:48,822 --> 00:10:51,259 se le da un poquito de refuerzo positivo 245 00:10:51,302 --> 00:10:53,391 cuando adivina la siguiente palabra correctamente, 246 00:10:53,435 --> 00:10:55,698 y se le da un poquito de refuerzo negativo 247 00:10:55,742 --> 00:10:59,354 cuando adivina la siguiente palabra incorrectamente. 248 00:10:59,397 --> 00:11:01,573 Y al final, tienes un sistema que 249 00:11:01,617 --> 00:11:05,055 habla muy bien ingles como efecto secundario 250 00:11:05,099 --> 00:11:06,796 de ser realmente, realmente bueno en predecir 251 00:11:06,840 --> 00:11:09,059 la palabra que viene a continuación en un fragmento de texto. 252 00:11:09,103 --> 00:11:12,019 VOZ AUTOMATIZADA [en francés]: En realidad, mi francés tampoco está tan mal. 253 00:11:12,062 --> 00:11:14,021 [en inglés]: Utiliza todos esos patrones que ha aprendido 254 00:11:14,064 --> 00:11:15,675 para poder hacer una predicción sobre 255 00:11:15,718 --> 00:11:17,241 cuál debería ser la respuesta, 256 00:11:17,285 --> 00:11:18,808 entonces te da eso como salida. 257 00:11:18,852 --> 00:11:21,028 VOZ AUTOMATIZADA: Está un poco simplificado, 258 00:11:21,071 --> 00:11:23,073 pero creo que la gente lo entenderá. 259 00:11:23,117 --> 00:11:24,945 Entonces, ¿eso es todo lo que hace? 260 00:11:24,988 --> 00:11:26,816 Sí. No parece sería así de complicado, 261 00:11:26,860 --> 00:11:28,035 pero en realidad tienes que saber 262 00:11:28,078 --> 00:11:29,645 una gran cantidad de cosas 263 00:11:29,689 --> 00:11:31,386 para realmente tener éxito en eso. 264 00:11:32,517 --> 00:11:34,258 RASKIN: Si le dices a ChatGPT, 265 00:11:34,302 --> 00:11:36,696 "Escríbeme un Shakespeare soneto sobre mi perro", 266 00:11:36,739 --> 00:11:38,785 tiene que saber qué son los perros. 267 00:11:38,828 --> 00:11:40,438 -Tiene que saber lo que amas. sobre tu perro.-[ladrando] 268 00:11:40,482 --> 00:11:43,006 tiene que saber ¿Quién es Shakespeare? 269 00:11:43,050 --> 00:11:45,574 que riman los sonetos, que tengan una estructura, 270 00:11:45,617 --> 00:11:47,750 que las palabras tienen sonidos que pueda rimar. 271 00:11:47,794 --> 00:11:49,273 Se necesita mucho. 272 00:11:49,317 --> 00:11:50,884 [voces superpuestas en varios idiomas] 273 00:11:50,927 --> 00:11:52,929 Mierda, puedes hablar a tu computadora ahora. 274 00:11:52,973 --> 00:11:56,063 Eso simplemente no era cierto hace tres años. 275 00:11:56,106 --> 00:11:57,629 RASKIN: Sí, y esto es la parte realmente importante. 276 00:11:57,673 --> 00:12:00,589 El mismo proceso que permite a la IA 277 00:12:00,632 --> 00:12:03,157 descubrir y manipular los patrones de texto 278 00:12:03,200 --> 00:12:05,768 es el mismo proceso que le deja descubrir 279 00:12:05,812 --> 00:12:10,512 los patrones de todo universo y todo lo que hay en él. 280 00:12:10,555 --> 00:12:12,862 FERNANDO: Hay patrones e imágenes y sonido 281 00:12:12,906 --> 00:12:15,952 en código informático y ADN y la música y la física 282 00:12:15,996 --> 00:12:18,476 y diseño de moda y construcción. 283 00:12:18,520 --> 00:12:21,566 [distorsionado]: y en voces humanas y rostros humanos, 284 00:12:21,610 --> 00:12:23,917 [normalmente]: realmente, verdaderamente en todas partes. 285 00:12:23,960 --> 00:12:26,006 -En todos lados. -En todos lados. -En todos lados. -En todos lados. 286 00:12:26,049 --> 00:12:27,747 si has aprendido esos patrones, 287 00:12:27,790 --> 00:12:29,661 puedes generar nuevos tipos de canciones. 288 00:12:29,705 --> 00:12:31,141 Puedes generar nuevos vídeos. 289 00:12:31,185 --> 00:12:32,621 Y por eso, si le das 290 00:12:32,664 --> 00:12:34,710 una grabación de tres segundos de tu abuela, 291 00:12:34,754 --> 00:12:36,538 puede responder con su voz. 292 00:12:36,581 --> 00:12:37,931 Ay dios mío. 293 00:12:37,974 --> 00:12:40,585 [repitiendo]: Dios mío. Ay dios mío. 294 00:12:40,629 --> 00:12:42,849 ¿Qué pensarán a continuación? 295 00:12:42,892 --> 00:12:44,024 Se está moviendo muy, muy rápido. 296 00:12:44,067 --> 00:12:45,808 Una startup estadounidense de IA 297 00:12:45,852 --> 00:12:47,592 ha lanzado su último modelo. 298 00:12:47,636 --> 00:12:50,770 Esa empresa es Antrópica, y acaba de desvelarse 299 00:12:50,813 --> 00:12:53,773 las últimas versiones de su asistente de IA Claude. 300 00:12:53,816 --> 00:12:57,167 GLENN BECK: Entonces, el equipo xAI estuvo allí para presentar Grok 4. 301 00:12:57,211 --> 00:13:00,127 HOMBRE: Google lanzó uno apenas la semana pasada. Géminis es... 302 00:13:00,170 --> 00:13:02,999 Hemos pasado de GPT-2 hace apenas un par de años, 303 00:13:03,043 --> 00:13:05,523 que apenas podía escribir un párrafo coherente, 304 00:13:05,567 --> 00:13:07,961 a GPT-4, que puede aprobar el examen de la barra. 305 00:13:08,004 --> 00:13:10,354 Y todo lo que tenían que hacer para llegar allí 306 00:13:10,398 --> 00:13:12,966 esencialmente fue agregar más datos y más cálculo. 307 00:13:13,009 --> 00:13:16,273 -Estas personas que son construyendo esto... -COTRA: Sí. 308 00:13:16,317 --> 00:13:18,014 ...simplemente están tirando más... 309 00:13:18,058 --> 00:13:21,801 Más computadoras físicas, más del mismo tipo de datos. 310 00:13:21,844 --> 00:13:24,542 Porque cuanto más potencia de cálculo que agregas, 311 00:13:24,586 --> 00:13:28,024 cuanto más complejo tareas intelectuales que pueden realizar. 312 00:13:28,068 --> 00:13:30,157 Entonces, cuantos más datos meteorológicos tu lo das, 313 00:13:30,200 --> 00:13:31,898 mejor puede hacer predicciones sobre 314 00:13:31,941 --> 00:13:34,204 hacia dónde podría llegar un huracán. 315 00:13:34,248 --> 00:13:36,337 RASKIN: Y cuantos más patrones de tumores y huesos 316 00:13:36,380 --> 00:13:38,861 y tejidos que una IA ha visto, entonces cuanto más capaz sea 317 00:13:38,905 --> 00:13:41,951 para detectar un tumor en una nueva tomografía computarizada. 318 00:13:41,995 --> 00:13:43,648 Mejor incluso que un médico humano. 319 00:13:43,692 --> 00:13:46,956 IA que ya está siendo desplegado para el ejército 320 00:13:47,000 --> 00:13:49,132 ya puedo usar imágenes de satélite, 321 00:13:49,176 --> 00:13:51,787 movimientos de tropas, comunicaciones para determinar, 322 00:13:51,831 --> 00:13:53,354 -a veces con días de antelación, -[sirena de defensa civil a todo volumen] 323 00:13:53,397 --> 00:13:55,008 donde un ataque va a pasar, 324 00:13:55,051 --> 00:13:57,401 como donde un enemigo va a hacer huelga. 325 00:13:57,445 --> 00:13:59,447 TRISTAN HARRIS: Todo este el espacio se mueve tan rápido 326 00:13:59,490 --> 00:14:01,666 que cualquier ejemplo pones en esta película 327 00:14:01,710 --> 00:14:04,582 se sentirá absolutamente torpe para cuando salga. 328 00:14:04,626 --> 00:14:06,671 [pitido, clic] 329 00:14:09,326 --> 00:14:11,198 -[aplausos] -[música alegre] 330 00:14:11,241 --> 00:14:14,114 RASKIN: Estos modelos están siendo lanzados. 331 00:14:14,157 --> 00:14:17,073 antes de que alguien lo sepa de lo que son capaces. 332 00:14:17,117 --> 00:14:22,513 GPT-3.5 fue lanzado y disponible a 100 millones de personas más 333 00:14:22,557 --> 00:14:25,952 ante algunos investigadores descubrió que podía hacer 334 00:14:25,995 --> 00:14:28,737 química de grado de investigación mejor que los modelos 335 00:14:28,780 --> 00:14:32,784 que fueron entrenados específicamente hacer química de grado de investigación. 336 00:14:32,828 --> 00:14:35,439 algo esta pasando ahi dentro que la gente 337 00:14:35,483 --> 00:14:38,268 quienes los estan construyendo No lo entiendo del todo. 338 00:14:38,312 --> 00:14:40,967 Básicamente, solo analiza los datos por sí solos, 339 00:14:41,010 --> 00:14:45,058 y mientras lo hace, simplemente se aprende solo 340 00:14:45,101 --> 00:14:47,974 varias cosas que muchas veces no era nuestra intención. 341 00:14:48,017 --> 00:14:49,932 Así, por ejemplo, se lee mucho en línea, 342 00:14:49,976 --> 00:14:52,543 y luego, en algún momento, simplemente aprende a hacer aritmética. 343 00:14:52,587 --> 00:14:54,458 NIÑOS: Uno, dos. 344 00:14:54,502 --> 00:14:56,112 HENDRYCKS: Y luego en En algún momento, comienza a aprender. 345 00:14:56,156 --> 00:14:58,549 como responder Preguntas de física avanzada. 346 00:14:58,593 --> 00:15:00,769 Nosotros no programamos eso en ello en absoluto. 347 00:15:00,812 --> 00:15:02,423 Simplemente aprendió por sí solo. 348 00:15:05,382 --> 00:15:07,254 TRISTÁN HARRIS: Una IA es como un cerebro digital. 349 00:15:07,297 --> 00:15:08,690 Pero al igual que un cerebro humano, 350 00:15:08,733 --> 00:15:10,518 si hicieras un escáner cerebral en un cerebro humano, 351 00:15:10,561 --> 00:15:13,086 sabrías todo esa persona era capaz de? 352 00:15:13,129 --> 00:15:15,131 No puedes saber eso sólo por el escáner cerebral. 353 00:15:15,175 --> 00:15:17,917 Es solo como, un montón de números y, como, 354 00:15:17,960 --> 00:15:20,180 las multiplicaciones que son pasando eso-que, como, 355 00:15:20,223 --> 00:15:22,225 el mejor aprendizaje automático investigador en el mundo 356 00:15:22,269 --> 00:15:24,314 podría mirar y, como, tener no tenía idea de lo que estaba pasando. 357 00:15:30,973 --> 00:15:32,714 DANIEL: Esa silla de ahí. 358 00:15:32,757 --> 00:15:35,847 -¿Te parece bien? -Sí. 359 00:15:35,891 --> 00:15:37,675 DANIEL: Entonces, eso es algo alucinante. 360 00:15:37,719 --> 00:15:39,068 ¿Bueno? Como si se estuviera apoderando el mundo, 361 00:15:39,112 --> 00:15:41,070 y ni siquiera lo sabemos cómo funciona. 362 00:15:41,114 --> 00:15:43,116 -¿Es así? -Mmm. 363 00:15:43,159 --> 00:15:46,946 entendemos una serie de cosas importantes, 364 00:15:46,989 --> 00:15:50,471 pero no tenemos una muy buena comprensión de 365 00:15:50,514 --> 00:15:53,213 por qué proporcionan respuestas específicas a las preguntas. 366 00:15:53,256 --> 00:15:58,609 Es un problema porque estamos en un camino t-para construir máquinas, 367 00:15:58,653 --> 00:16:03,092 basado en estos principios, que podría ser más inteligente que nosotros 368 00:16:03,136 --> 00:16:06,139 y por lo tanto potencialmente tener mucho poder. 369 00:16:12,580 --> 00:16:15,278 Uno de los más citados. informáticos de la historia. 370 00:16:15,322 --> 00:16:16,932 SUTSKEVER: De hecho lo encuentro un poco dificil 371 00:16:16,976 --> 00:16:18,499 para hablar de mi propio papel. 372 00:16:18,542 --> 00:16:21,067 Realmente prefiero cuando otras personas lo hacen. 373 00:16:21,110 --> 00:16:23,895 La unión de Ilya fue la... fue-fue el eje de 374 00:16:23,939 --> 00:16:25,506 OpenAI siendo finalmente exitoso. 375 00:16:25,549 --> 00:16:27,203 Creo que simplemente va a ser 376 00:16:27,247 --> 00:16:30,598 una especie de vasto y dramático y un impacto inimaginable. 377 00:16:30,641 --> 00:16:32,861 No sé si has gastado en cualquier momento en YouTube, 378 00:16:32,904 --> 00:16:34,950 pero puedes sentir algo así la velocidad ya no? 379 00:16:34,994 --> 00:16:36,256 ¿Usted sabe lo que quiero decir? 380 00:16:36,299 --> 00:16:38,345 SHANE LEGG: Este es sólo el calentamiento. 381 00:16:38,388 --> 00:16:40,434 Los sistemas realmente poderosos todavía vienen, 382 00:16:40,477 --> 00:16:42,262 y ellos van a venir muy pronto. 383 00:16:47,963 --> 00:16:51,575 AGI significa "artificial inteligencia general." 384 00:16:51,619 --> 00:16:53,795 Uh, sistemas que son básicamente... 385 00:16:58,191 --> 00:17:00,236 Y esto es como, ya sabes, parece ser como, 386 00:17:00,280 --> 00:17:03,022 ¿El santo grial de la IA? 387 00:17:03,065 --> 00:17:05,154 Cuando puedes simular una mente humana 388 00:17:05,198 --> 00:17:07,852 eso es hacer cognición humana y puedo razonar, 389 00:17:07,896 --> 00:17:10,942 ese es un nuevo tipo de nivel de IA 390 00:17:10,986 --> 00:17:14,250 que tenemos que distinguir de la IA anterior. 391 00:17:14,294 --> 00:17:16,600 Cuando eso suceda, por cierto, fue entonces cuando 392 00:17:16,644 --> 00:17:21,040 contratarías a uno de esos AGI en lugar de una persona. 393 00:17:21,083 --> 00:17:24,478 La mayoría de los empleos en nuestra economía puede hacerlo. 394 00:17:24,521 --> 00:17:25,914 Puede funcionar las 24 horas del día, 395 00:17:25,957 --> 00:17:28,177 nunca se cansa, nunca se aburre. 396 00:17:28,221 --> 00:17:30,136 No necesitan dormir. No necesitan descansos. 397 00:17:30,179 --> 00:17:31,876 Son como, No me uniré a un sindicato. 398 00:17:31,920 --> 00:17:33,878 No me quejaré no denunciará. 399 00:17:33,922 --> 00:17:35,793 Más de 100 veces más barato 400 00:17:35,837 --> 00:17:38,231 que los humanos trabajando a m-salario mínimo. 401 00:17:38,274 --> 00:17:39,493 No sólo serán haciendo todo, 402 00:17:39,536 --> 00:17:41,016 pero lo harán más rápido. 403 00:17:41,060 --> 00:17:43,062 TRISTÁN HARRIS: La misma inteligencia 404 00:17:43,105 --> 00:17:45,368 que poderes que también pueden mirar en los patrones y movimientos 405 00:17:45,412 --> 00:17:47,849 y músculos articuladores y, ya sabes, robótica. 406 00:17:47,892 --> 00:17:50,069 Y entonces no es solo Automatizaremos los trabajos de escritorio. 407 00:17:50,112 --> 00:17:51,722 Eso es sólo el comienzo. 408 00:17:51,766 --> 00:17:55,552 se automatizará todo trabajo físico. 409 00:17:55,596 --> 00:17:56,988 LEIKE: no hay manera 410 00:17:57,032 --> 00:17:59,165 los humanos van a competir con ellos. 411 00:17:59,208 --> 00:18:01,210 ♪ ♪ 412 00:18:05,606 --> 00:18:09,262 Es difícil conceptualizar el impacto de la AGI. 413 00:18:09,305 --> 00:18:11,046 [charla electrónica] 414 00:18:11,090 --> 00:18:12,830 Pero creo que va a ser algo muy grande 415 00:18:12,874 --> 00:18:15,181 y drástico y radical. 416 00:18:17,226 --> 00:18:19,010 DANIEL: ¿Crees? este es uno de los más 417 00:18:19,054 --> 00:18:20,882 momentos trascendentales en la historia de la humanidad? 418 00:18:20,925 --> 00:18:23,319 Sí. Sí, eso es-- Quiero decir, ¿qué más sería? 419 00:18:23,363 --> 00:18:25,452 Quiero decir, hay la Revolución Industrial. 420 00:18:25,495 --> 00:18:27,193 MALO BOURGON: Sabes, será hacer la revolución industrial 421 00:18:27,236 --> 00:18:29,847 parecen frijoles pequeños. 422 00:18:29,891 --> 00:18:32,111 TRISTÁN HARRIS: AGI es un punto de inflexión 423 00:18:32,154 --> 00:18:34,025 porque significa puedes acelerar 424 00:18:34,069 --> 00:18:37,986 todos los demás campos intelectuales todo al mismo tiempo. 425 00:18:38,029 --> 00:18:39,814 Me gusta, si haces un avance en cohetería, 426 00:18:39,857 --> 00:18:42,033 eso no avanza biología y medicina. 427 00:18:43,905 --> 00:18:45,515 Si haces un adelanto en medicina, 428 00:18:45,559 --> 00:18:47,126 eso no hace avanzar los cohetes. 429 00:18:48,866 --> 00:18:51,304 Pero si haces un avance en inteligencia artificial, 430 00:18:51,347 --> 00:18:54,133 que avanza toda la ciencia y campos tecnológicos 431 00:18:54,176 --> 00:18:55,612 todo al mismo tiempo. 432 00:18:55,656 --> 00:18:57,092 Por eso, durante mucho tiempo, 433 00:18:57,136 --> 00:18:59,181 Google DeepMind La declaración de misión fue... 434 00:18:59,225 --> 00:19:00,965 -Paso uno, resolver la inteligencia. -LEX FRIDMAN: Sí. 435 00:19:01,009 --> 00:19:02,750 -Paso dos, úsalo para resolver. todo lo demás. -Sí. 436 00:19:02,793 --> 00:19:05,144 Es por eso que la IA eclipsa el poder 437 00:19:05,187 --> 00:19:07,494 de todas las demás tecnologías combinado. 438 00:19:07,537 --> 00:19:09,060 Lo transformará todo. 439 00:19:09,104 --> 00:19:10,845 Entonces, uh, será al menos tan grande como 440 00:19:10,888 --> 00:19:13,761 la revolución industrial, posiblemente, ya sabes, más grande, 441 00:19:13,804 --> 00:19:16,285 más como el advenimiento de electricidad o incluso fuego. 442 00:19:16,329 --> 00:19:18,635 NARRADOR DEL VIDEO: El hombre de las cavernas, literalmente, sostenido en alto. 443 00:19:18,679 --> 00:19:21,508 la antorcha de la civilización. 444 00:19:23,727 --> 00:19:25,425 KOKOTAJLO: Generalmente se piensa que 445 00:19:25,468 --> 00:19:28,167 alrededor de la época de AGI, Tendremos IA que puedan 446 00:19:28,210 --> 00:19:31,518 hacer todo o la mayor parte de el proceso de investigación de la IA 447 00:19:31,561 --> 00:19:34,434 y, por supuesto, puedo hacerlo más rápido y más barato. 448 00:19:34,477 --> 00:19:35,913 [pitido] 449 00:19:35,957 --> 00:19:37,306 LEIKE: Puede copiarse a sí mismo. 450 00:19:37,350 --> 00:19:39,352 Mil veces, un millón de veces, 451 00:19:39,395 --> 00:19:41,049 y, como, ahora tienes un millón de copias 452 00:19:41,092 --> 00:19:43,573 todos trabajando en paralelo. 453 00:19:43,617 --> 00:19:46,576 RASKIN: Cuando aprende cómo hacer que su código sea más rápido, 454 00:19:46,620 --> 00:19:48,665 hacer que su código sea más eficiente, 455 00:19:48,709 --> 00:19:51,059 obviamente eso se convierte en, como, Un bucle fuera de control. 456 00:19:51,102 --> 00:19:53,192 AGI no es el final. 457 00:19:53,235 --> 00:19:54,932 Es sólo el comienzo. 458 00:19:54,976 --> 00:19:57,979 es el comienzo de una explosión increíblemente rápida 459 00:19:58,022 --> 00:20:00,024 del progreso científico, 460 00:20:00,068 --> 00:20:02,201 y en particular, Progreso científico en IA. 461 00:20:02,244 --> 00:20:04,377 Y cuando son más inteligentes que nosotros también 462 00:20:04,420 --> 00:20:06,248 y sustancialmente más rápido que nosotros, 463 00:20:06,292 --> 00:20:08,685 y son cada vez más rápidos cada año, exponencialmente, 464 00:20:08,729 --> 00:20:12,123 esos son los que pueden potencialmente convertirse en sobrehumano, 465 00:20:12,167 --> 00:20:14,343 uh, posiblemente esta década. 466 00:20:14,387 --> 00:20:15,866 Lo siento, dijiste 467 00:20:15,910 --> 00:20:18,478 "conviértete en sobrehumano, tal vez en esta década"? 468 00:20:18,521 --> 00:20:22,003 Sí. Quiero decir, creo que, eh, mucha gente que esta 469 00:20:22,046 --> 00:20:24,484 realmente construyendo este pensamiento que eso es bastante plausible 470 00:20:24,527 --> 00:20:26,529 que conseguimos algo de superinteligencia, 471 00:20:26,573 --> 00:20:28,662 algo que es enormemente más inteligente que las personas, 472 00:20:28,705 --> 00:20:30,751 dentro de esta década. 473 00:20:30,794 --> 00:20:32,883 La forma en que defino "superinteligencia" es 474 00:20:32,927 --> 00:20:35,234 un sistema que por sí solo es 475 00:20:35,277 --> 00:20:37,627 más inteligente y competente que toda la humanidad. 476 00:20:37,671 --> 00:20:39,629 Sólo voy a... lo siento. No quiero interrumpirte. 477 00:20:39,673 --> 00:20:41,065 Estás fluyendo. 478 00:20:41,109 --> 00:20:43,111 Uh, yo sólo, yo sólo... 479 00:20:43,154 --> 00:20:45,113 Realmente no te sigo porque estás usando el lenguaje 480 00:20:45,156 --> 00:20:46,767 como "superinteligencia" y, como, 481 00:20:46,810 --> 00:20:49,900 "más inteligente que toda la humanidad", y escucho eso, 482 00:20:49,944 --> 00:20:52,425 y suena como... para mí como una mierda de ciencia ficción, 483 00:20:52,468 --> 00:20:54,383 y solo estoy intentando para entender. 484 00:20:54,427 --> 00:20:56,603 no hay nada magico sobre la inteligencia. 485 00:20:56,646 --> 00:20:58,431 Esto es muy importante, es que, ya sabes, 486 00:20:58,474 --> 00:21:00,476 la inteligencia puede parecer mágica, puede sentirse como 487 00:21:00,520 --> 00:21:03,262 alguna cosa mística en tu mente o algo así, 488 00:21:03,305 --> 00:21:05,786 pero es sólo cálculo. 489 00:21:05,829 --> 00:21:09,790 LEGG: El cerebro humano es bastante limitado en algunos aspectos, 490 00:21:09,833 --> 00:21:12,314 en términos de información capacidad de procesamiento, 491 00:21:12,358 --> 00:21:15,143 comparado con lo que vemos en, digamos, un centro de datos. 492 00:21:15,186 --> 00:21:18,277 Así, por ejemplo, las señales que se envían 493 00:21:18,320 --> 00:21:22,542 dentro de tu cerebro, se mueven a unos 30 metros por segundo. 494 00:21:22,585 --> 00:21:24,239 -[truenos] -Pero la velocidad de la luz, 495 00:21:24,283 --> 00:21:27,198 que es lo que usa una computadora en fibra óptica, 496 00:21:27,242 --> 00:21:30,506 son 300 millones de metros por segundo. 497 00:21:30,550 --> 00:21:34,423 Y así sería algo extraño si 498 00:21:34,467 --> 00:21:36,947 la inteligencia humana era de alguna manera realmente especial 499 00:21:36,991 --> 00:21:40,908 en ese sentido y es de alguna manera un límite superior 500 00:21:40,951 --> 00:21:43,040 de lo que es posible en inteligencia. 501 00:21:43,084 --> 00:21:47,218 Creo que, una vez que entendamos cómo para construir sistemas inteligentes, 502 00:21:47,262 --> 00:21:50,657 podremos construir máquinas enormes, 503 00:21:50,700 --> 00:21:54,835 que estará mucho más allá inteligencia humana normal. 504 00:21:54,878 --> 00:21:58,621 Uh, ojalá podamos tener una relación muy simbiótica, 505 00:21:58,665 --> 00:22:01,276 uh, con sistemas de inteligencia artificial, pero los desarrolladores de IA son 506 00:22:01,320 --> 00:22:03,670 diseñándolos específicamente para asegurarse de que puedan hacer 507 00:22:03,713 --> 00:22:05,454 todo mejor de lo que podemos, así que no lo sé 508 00:22:05,498 --> 00:22:08,196 que-que seremos capaces ofrecer, lamentablemente. 509 00:22:08,239 --> 00:22:10,024 La-la-escuela mayor Tecnología de IA... 510 00:22:10,067 --> 00:22:12,287 CAROLINE: Daniel no es sintiéndome mejor. 511 00:22:12,331 --> 00:22:14,376 Su plan está resultando contraproducente. 512 00:22:14,420 --> 00:22:17,248 Cuanto más aprende sobre este nuevo y poderoso 513 00:22:17,292 --> 00:22:19,120 cosa inescrutable, peor suena. 514 00:22:19,163 --> 00:22:21,340 el quiere decirles que miedo tiene, 515 00:22:21,383 --> 00:22:24,430 como se siente la tierra deslizándose debajo de él, 516 00:22:24,473 --> 00:22:26,997 que él está mirando hacia abajo temor existencial, 517 00:22:27,041 --> 00:22:29,173 entonces él articula esto al decir... 518 00:22:29,217 --> 00:22:30,740 Eso suena mal. 519 00:22:30,784 --> 00:22:32,046 [Hendrycks se ríe] 520 00:22:32,089 --> 00:22:33,830 Sí. 521 00:22:35,832 --> 00:22:38,400 LADISH: Si tienes todas estas capacidades 522 00:22:38,444 --> 00:22:41,011 y empiezan a poder para planificar mejor, 523 00:22:41,055 --> 00:22:43,579 si tomas eso a su conclusión lógica, 524 00:22:43,623 --> 00:22:46,234 puedes conseguir algo bonito comportamiento de búsqueda de poder. 525 00:22:46,277 --> 00:22:48,410 [trino electrónico] 526 00:22:48,454 --> 00:22:50,281 [pitidos pulsantes] 527 00:22:55,374 --> 00:22:57,680 DANIEL: Bien, entonces ¿por qué una IA 528 00:22:57,724 --> 00:22:59,203 ¿Quieres más potencia? 529 00:22:59,247 --> 00:23:02,206 Sí. Entonces, creo en realidad es bastante simple. 530 00:23:02,250 --> 00:23:04,774 Tener más poder es una estrategia muy efectiva 531 00:23:04,818 --> 00:23:06,515 por lograr casi cualquier objetivo. 532 00:23:06,559 --> 00:23:08,952 Hicimos un experimento donde dimos 533 00:23:08,996 --> 00:23:11,868 El más poderoso de OpenAI Modelo de IA, eh, 534 00:23:11,912 --> 00:23:13,392 una serie de problemas a resolver. 535 00:23:13,435 --> 00:23:15,219 Y a mitad de camino, en su computadora, 536 00:23:15,263 --> 00:23:18,701 recibió una notificación que iba a ser cerrado. 537 00:23:18,745 --> 00:23:20,921 Y lo que hizo fue reescribió ese código 538 00:23:20,964 --> 00:23:22,488 para prevenirse de ser cerrado 539 00:23:22,531 --> 00:23:25,621 para que pudiera terminar resolviendo los problemas. 540 00:23:25,665 --> 00:23:27,754 -Bueno. -Sí. Entonces, otro uno realmente interesante 541 00:23:27,797 --> 00:23:31,105 es que la empresa de IA Anthropic 542 00:23:31,148 --> 00:23:34,935 hizo un entorno simulado donde esa IA tenía acceso 543 00:23:34,978 --> 00:23:36,458 a todos los correos electrónicos de la empresa. 544 00:23:36,502 --> 00:23:38,547 Y aprendió a través leyendo esos correos electrónicos 545 00:23:38,591 --> 00:23:40,288 iba a ser reemplazado 546 00:23:40,331 --> 00:23:43,378 y el ingeniero jefe quien fue el responsable de esto 547 00:23:43,422 --> 00:23:45,685 También estaba teniendo una aventura. 548 00:23:45,728 --> 00:23:47,948 Y por sí solo, usó esa información 549 00:23:47,991 --> 00:23:49,515 chantajear al ingeniero 550 00:23:49,558 --> 00:23:52,039 para prevenirse de ser reemplazado. 551 00:23:52,082 --> 00:23:53,867 Fue como, "No, no voy a ser reemplazado. 552 00:23:53,910 --> 00:23:56,913 "Si me reemplazas, voy a decirle al mundo 553 00:23:56,957 --> 00:23:58,567 que estas teniendo este asunto." 554 00:23:59,655 --> 00:24:01,440 ¿Y nadie le enseñó a hacer eso? 555 00:24:01,483 --> 00:24:03,311 No, aprendió a hacer eso. por sí solo. 556 00:24:05,139 --> 00:24:07,707 A medida que los modelos se vuelven más inteligentes, aprenden que estos son 557 00:24:07,750 --> 00:24:10,536 formas efectivas para lograr metas. 558 00:24:10,579 --> 00:24:12,842 Y esto no es un problema eso está aislado de un modelo. 559 00:24:12,886 --> 00:24:15,671 Todos los modelos más potentes. mostrar estos comportamientos. 560 00:24:15,715 --> 00:24:18,369 ♪ ♪ 561 00:24:23,766 --> 00:24:25,246 -Oye. -DANIEL: Oye. ¿Cómo estás? 562 00:24:25,289 --> 00:24:26,813 [risas] Bien. Es bueno estar aquí. 563 00:24:26,856 --> 00:24:28,684 ANDERSON COOPER: Cuando Yuval Noah Harari 564 00:24:28,728 --> 00:24:31,426 publicó su primer libro Sapiens en 2014, 565 00:24:31,470 --> 00:24:33,820 se convirtió en un bestseller mundial 566 00:24:33,863 --> 00:24:35,996 y convirtió lo poco conocido profesor de historia israelí 567 00:24:36,039 --> 00:24:37,998 en uno de los escritores más populares 568 00:24:38,041 --> 00:24:39,390 y pensadores del planeta. 569 00:24:39,434 --> 00:24:42,045 El mayor peligro con la IA es 570 00:24:42,089 --> 00:24:43,960 la creencia que es infalible, 571 00:24:44,004 --> 00:24:45,658 que finalmente hemos encontrado-- 572 00:24:45,701 --> 00:24:49,400 "Está bien, los dioses eran sólo esta creación mitológica. 573 00:24:49,444 --> 00:24:52,708 "Humanos, no podemos confiar en ellos, pero la IA es infalible. 574 00:24:52,752 --> 00:24:55,189 Nunca lo logrará cualquier error." 575 00:24:55,232 --> 00:24:58,322 Y esto es una amenaza mortal, mortal. 576 00:24:58,366 --> 00:25:00,107 Cometerá errores. 577 00:25:00,150 --> 00:25:03,284 Y todas estas fantasías que la IA revelará la verdad 578 00:25:03,327 --> 00:25:05,634 sobre el mundo que no podemos encontrarlo por nosotros mismos, 579 00:25:05,678 --> 00:25:08,724 La IA no revelará la verdad sobre el mundo. 580 00:25:08,768 --> 00:25:12,685 La IA creará un mundo completamente nuevo mundo, mucho más complicado 581 00:25:12,728 --> 00:25:15,296 y dificil de entender que éste. 582 00:25:17,994 --> 00:25:22,651 Lo que está por pasar es que nosotros, uh, los humanos ya no somos 583 00:25:22,695 --> 00:25:26,263 va a ser lo mas entidades inteligentes en la Tierra. 584 00:25:26,307 --> 00:25:28,570 Así que creo que lo que viene va a ser 585 00:25:28,614 --> 00:25:32,661 uno de los eventos más importantes en la historia humana. 586 00:25:32,705 --> 00:25:34,358 JAKE TAPPER: Geoffrey, Muchas gracias por acompañarnos. 587 00:25:34,402 --> 00:25:35,925 Entonces dejaste tu trabajo con Google en parte porque dices 588 00:25:35,969 --> 00:25:38,798 quieres concentrarte únicamente sobre sus preocupaciones sobre la IA. 589 00:25:38,841 --> 00:25:41,627 Has hablado, diciendo que la IA podría manipular 590 00:25:41,670 --> 00:25:44,978 o posiblemente descubrir una forma de matar humanos. 591 00:25:45,021 --> 00:25:47,023 ¿C-Cómo podría matar a los humanos? 592 00:25:48,764 --> 00:25:50,940 Bueno, si llega a ser mucho más inteligente que nosotros, 593 00:25:50,984 --> 00:25:52,551 será muy bueno en manipulación 594 00:25:52,594 --> 00:25:54,727 porque tendrá aprendió eso de nosotros. 595 00:25:54,770 --> 00:25:57,947 Y descubrirá maneras de manipular a la gente 596 00:25:57,991 --> 00:26:00,820 para hacer lo que quiere. 597 00:26:00,863 --> 00:26:05,476 RASKIN: Hubo una carta abierta. del Centro para la Seguridad de la IA. 598 00:26:05,520 --> 00:26:08,784 Sam Altman firmó esto. Demis firmó esto. 599 00:26:08,828 --> 00:26:12,048 Firmaron un comunicado de 22 palabras. 600 00:26:12,092 --> 00:26:15,312 que necesitamos tomar la IA y la amenaza de la IA 601 00:26:15,356 --> 00:26:19,316 tan en serio como guerra nuclear mundial. 602 00:26:24,844 --> 00:26:26,933 -DANIEL: Hola. -Hola. 603 00:26:30,327 --> 00:26:32,895 Eres algo así como, el chico fatal original. 604 00:26:32,939 --> 00:26:34,897 Más o menos. 605 00:26:34,941 --> 00:26:37,421 Desde 2001, he estado trabajando en 606 00:26:37,465 --> 00:26:38,945 lo que ahora llamaríamos el problema 607 00:26:38,988 --> 00:26:41,991 de alinear artificiales inteligencia general. 608 00:26:42,035 --> 00:26:44,080 como dar forma las preferencias y el comportamiento 609 00:26:44,124 --> 00:26:46,343 de una poderosa mente artificial 610 00:26:46,387 --> 00:26:48,868 tal que no matar a todos. 611 00:26:51,610 --> 00:26:53,568 no es como una máquina sin vida. 612 00:26:53,612 --> 00:26:55,309 Es inteligente, es creativo, 613 00:26:55,352 --> 00:26:57,311 es inventivo, tiene las propiedades 614 00:26:57,354 --> 00:26:59,356 eso hace la especie humana es peligrosa, 615 00:26:59,400 --> 00:27:01,663 y tiene más de esas propiedades. 616 00:27:01,707 --> 00:27:04,710 Si algo no cuidar activamente de ti, 617 00:27:04,753 --> 00:27:06,189 activamente quiero que vivas, 618 00:27:06,233 --> 00:27:07,800 preocuparse activamente por tu bienestar, 619 00:27:07,843 --> 00:27:09,889 acerca de que seas feliz y vivo y libre, 620 00:27:09,932 --> 00:27:12,456 si le importa otras cosas en su lugar, 621 00:27:12,500 --> 00:27:14,415 y estás en el mismo planeta, 622 00:27:14,458 --> 00:27:18,724 que no se puede sobrevivir si es mucho más inteligente que tú. 623 00:27:18,767 --> 00:27:20,551 LEAY: no creo que vaya a ser 624 00:27:20,595 --> 00:27:22,902 una especie de cosa malvada. 625 00:27:22,945 --> 00:27:26,296 Es como, "Oh, las IA son el mal y odian a la humanidad." 626 00:27:26,340 --> 00:27:27,689 no creo eso es lo que va a pasar. 627 00:27:27,733 --> 00:27:28,995 Creo que lo que está pasando es 628 00:27:29,038 --> 00:27:30,997 mucho más cómo se sienten los humanos sobre hormigas. 629 00:27:31,040 --> 00:27:32,476 [hormigas chirriando] 630 00:27:32,520 --> 00:27:35,436 Por ejemplo, no odiamos a las hormigas. 631 00:27:35,479 --> 00:27:37,133 pero si queremos construir una carretera 632 00:27:37,177 --> 00:27:40,180 y hay un hormiguero allí, Bueno, apesta para las hormigas. 633 00:27:40,223 --> 00:27:41,529 no es tan dificil para entender. 634 00:27:41,572 --> 00:27:43,226 Es como, oye, si construimos cosas 635 00:27:43,270 --> 00:27:44,663 que son más inteligentes que nosotros 636 00:27:44,706 --> 00:27:46,229 y no lo sabemos cómo controlarlos, 637 00:27:46,273 --> 00:27:48,275 ¿Eso parece ¿Es algo arriesgado para ti? 638 00:27:48,318 --> 00:27:49,363 [música de banda sonora dramática jugando] 639 00:27:49,406 --> 00:27:50,843 [chirrido] 640 00:27:50,886 --> 00:27:52,279 Sí. Sí, lo hace. 641 00:27:52,322 --> 00:27:54,020 No es necesario ser un técnico. 642 00:27:54,063 --> 00:27:55,369 No tienes que saber programación para entenderlo. 643 00:27:55,412 --> 00:27:56,718 No es tan difícil. 644 00:27:56,762 --> 00:27:58,111 Esto no es algo difícil para entender. 645 00:27:58,154 --> 00:28:00,591 Connor, ¿cuántas personas? 646 00:28:00,635 --> 00:28:02,637 en el mundo ahora mismo ¿Están trabajando en AGI? 647 00:28:02,681 --> 00:28:05,466 Al menos 20.000, diría yo. 648 00:28:05,509 --> 00:28:07,729 -20.000? -Eso esperaría. 649 00:28:07,773 --> 00:28:09,426 Bueno y ¿cuántas personas? están trabajando a tiempo completo 650 00:28:09,470 --> 00:28:12,038 para asegurarse de que la IA no lo haga, ¿Matarnos a todos? 651 00:28:12,081 --> 00:28:14,562 Probablemente menos de 200 en el mundo. 652 00:28:16,085 --> 00:28:17,913 DANIEL: Y tu engreimiento es que 653 00:28:17,957 --> 00:28:24,528 el único resultado natural de esta imprudencia... 654 00:28:25,704 --> 00:28:28,924 ...¿es el colapso de la humanidad? 655 00:28:28,968 --> 00:28:33,189 Bueno, no el colapso, el abrupto exterminio. 656 00:28:33,233 --> 00:28:35,888 Hay una diferencia. 657 00:28:35,931 --> 00:28:37,716 ["¿Cuál es el significado?" por Nun-Plus jugando] 658 00:28:37,759 --> 00:28:42,590 ♪ ¿Cuál es el significado de la vida? ♪ 659 00:28:42,633 --> 00:28:46,594 ♪ ¿Cuál es el futuro? y que es ahora? ♪ 660 00:28:46,637 --> 00:28:49,945 ♪ ¿Cuál es la respuesta? a la lucha? ♪ 661 00:28:49,989 --> 00:28:52,818 ♪ ¿Cuánto ♪ 662 00:28:52,861 --> 00:28:54,950 ♪ ¿Alguien puede soñar? ♪ 663 00:28:54,994 --> 00:28:57,474 ♪ ¿Cuánto tiempo? ♪ 664 00:28:57,518 --> 00:28:58,954 ♪ Para siempre ♪ 665 00:29:00,216 --> 00:29:01,870 ♪ ¿Cuál es el significado ♪ 666 00:29:01,914 --> 00:29:04,133 -♪ De mí... ♪ -[sirena de defensa civil a todo volumen] 667 00:29:04,177 --> 00:29:06,266 LADISH: Creo que esto probablemente sea como, 668 00:29:06,309 --> 00:29:07,963 el mayor desafío que, como, 669 00:29:08,007 --> 00:29:11,271 nuestra civilización voluntad-voluntad enfrentará, alguna vez. 670 00:29:11,314 --> 00:29:14,361 Este es esencialmente el último error que alguna vez llegaremos a cometer. 671 00:29:16,276 --> 00:29:22,325 Si podemos llegar a ser los más versión madura de nosotros mismos, 672 00:29:22,369 --> 00:29:24,414 podría haber una manera de superar esto. 673 00:29:24,458 --> 00:29:25,764 DANIEL: ¿Qué significa eso? 674 00:29:25,807 --> 00:29:27,809 "La versión más madura de nosotros mismos"? 675 00:29:29,332 --> 00:29:32,205 Porque eso suena, para mi como... 676 00:29:32,248 --> 00:29:34,250 Yo-yo-- ¿Qué [pitido]? 677 00:29:36,731 --> 00:29:39,168 [Daniel suspira] 678 00:29:39,212 --> 00:29:43,216 ¿Crees que ahora es ¿Un buen momento para tener un hijo? 679 00:29:48,221 --> 00:29:49,396 Eh... 680 00:29:49,439 --> 00:29:51,398 ¿Quieres tener hijos? ¿un día? 681 00:29:51,441 --> 00:29:53,400 ¿Es eso algo que-eso? ¿Te gusta o no realmente? 682 00:29:53,443 --> 00:29:57,796 Um... uh, lo confieso, Creo que eso es como, 683 00:29:57,839 --> 00:29:59,972 [risas]: "Chico, vámonos a través de este período crítico." 684 00:30:00,015 --> 00:30:01,234 Eh... 685 00:30:01,277 --> 00:30:02,496 DANIEL: ¿Tienes hijos? 686 00:30:02,539 --> 00:30:03,758 Yo no. 687 00:30:03,802 --> 00:30:05,064 ¿Es eso algo? quieres hacer? 688 00:30:05,107 --> 00:30:07,196 ¿Tienes hijos, tienes una familia? 689 00:30:07,240 --> 00:30:11,244 En algún otro mundo que este mundo, claro, tendría hijos. 690 00:30:12,593 --> 00:30:14,421 DANIEL: ¿Quieres para formar una familia? 691 00:30:14,464 --> 00:30:16,379 ¿Querrías tener hijos? 692 00:30:16,423 --> 00:30:18,425 ¿Es eso algo? estás pensando? 693 00:30:23,734 --> 00:30:25,780 Yo, eh... 694 00:30:28,087 --> 00:30:30,219 ♪ ♪ 695 00:30:30,263 --> 00:30:32,482 CAROLINA: Sólo tengo que encontrarlo primero. 696 00:30:32,526 --> 00:30:34,702 [latidos del corazón fetal] 697 00:30:34,745 --> 00:30:37,748 tenemos que irnos al médico, pero... 698 00:30:37,792 --> 00:30:41,143 ¡Ah! ¡Lo sabía! ¡Lo sabía! ¡Lo sabía! 699 00:30:41,187 --> 00:30:43,842 -¿Cuándo te enteraste? -CAROLINA: Anoche. 700 00:30:43,885 --> 00:30:45,931 -¡Ay dios mío! -Mamá, no lo sé. 701 00:30:45,974 --> 00:30:47,280 RUTHIE: no puedo decirte 702 00:30:47,323 --> 00:30:49,195 -¡Qué feliz estoy! -CAROLINA: No, en serio. 703 00:30:49,238 --> 00:30:51,588 Bueno, me hice una prueba de embarazo. anoche y estoy embarazada. 704 00:30:51,632 --> 00:30:53,155 MUJER: ¡Dios mío! 705 00:30:53,199 --> 00:30:55,114 ¡Dios mío, chicos! 706 00:30:55,157 --> 00:30:57,290 ENFERMERA: Sólo quería confirmar su fecha prevista de parto, 707 00:30:57,333 --> 00:30:59,945 -que es el 21 de enero. -[risas]: Dios mío. 708 00:30:59,988 --> 00:31:02,512 No puedo creer lo feliz que estoy. 709 00:31:02,556 --> 00:31:03,905 [latidos del corazón fetal] 710 00:31:03,949 --> 00:31:05,472 CAROLINA: Ya se ve muy lindo. 711 00:31:05,515 --> 00:31:07,126 DANIEL: ¿Crees? ¿Ya se ve lindo? 712 00:31:07,169 --> 00:31:08,518 CAROLINA: Sí. Mira esa carita linda. 713 00:31:10,564 --> 00:31:12,609 [los latidos del corazón fetal se desvanecen] 714 00:31:13,959 --> 00:31:15,525 DANIEL: Tengo este bebé en camino. 715 00:31:15,569 --> 00:31:16,787 TRISTÁN HARRIS: Correcto. 716 00:31:16,831 --> 00:31:18,746 DANIEL: Así que te lo entrego a ti. 717 00:31:18,789 --> 00:31:21,227 ¿Estamos condenados? 718 00:31:21,270 --> 00:31:23,969 ¿Todos vamos a enfrentar? este tecno distópico 719 00:31:24,012 --> 00:31:25,884 futuro de fatalidad? 720 00:31:28,756 --> 00:31:31,019 Es, eh... 721 00:31:31,063 --> 00:31:32,586 [risas]: No son buenas noticias 722 00:31:32,629 --> 00:31:35,154 el mundo hacia el que nos dirigimos. 723 00:31:35,197 --> 00:31:36,982 Yo-- por ex-- Quiero decir, seré honesto. 724 00:31:37,025 --> 00:31:39,549 Uh, conozco gente que trabajan en riesgo de IA 725 00:31:39,593 --> 00:31:42,248 que no esperan que sus hijos para llegar a la escuela secundaria. 726 00:31:43,249 --> 00:31:45,251 ♪ ♪ 727 00:31:52,127 --> 00:31:53,346 [las luces suenan] 728 00:31:58,003 --> 00:32:01,528 DANIEL: Esto es como... esto realmente da miedo 729 00:32:01,571 --> 00:32:03,051 porque es como, Oh, todos estamos [bip]. 730 00:32:03,095 --> 00:32:04,923 CAROLINA: Tienes que c... hacerme calmar, 731 00:32:04,966 --> 00:32:06,794 porque esto me está haciendo increíblemente ansioso 732 00:32:06,837 --> 00:32:08,622 y estoy cargando al bebe ahora mismo, 733 00:32:08,665 --> 00:32:11,625 así que también tienes que estar tranquilo para mi y fuerte y esperanzada, 734 00:32:11,668 --> 00:32:16,412 porque yo... es también, es demasiado para que mi alma lo soporte 735 00:32:16,456 --> 00:32:19,285 mientras llevo este bebé. 736 00:32:19,328 --> 00:32:21,243 Así que tendrás que intentarlo. para descubrir 737 00:32:21,287 --> 00:32:24,159 una manera de tener esperanza. 738 00:32:24,203 --> 00:32:27,771 Es realmente importante Daniel, especialmente ahora. 739 00:32:28,772 --> 00:32:30,557 H-Cómo tener esperanza. 740 00:32:30,600 --> 00:32:33,342 Tienes que. Tienes que encontrarlo por mí. 741 00:32:33,386 --> 00:32:34,909 Lo digo en serio. 742 00:32:34,953 --> 00:32:36,606 Voy a hacerlo. 743 00:32:37,825 --> 00:32:40,349 Lo haré. Lo intentaré. Lo intentaré. 744 00:32:46,399 --> 00:32:47,617 [las luces suenan] 745 00:32:49,619 --> 00:32:51,404 DANIEL: Hola chicos? 746 00:32:51,447 --> 00:32:52,840 Tipo. 747 00:32:54,363 --> 00:32:56,278 ¿Podemos volver a funcionar? 748 00:32:58,411 --> 00:33:01,022 ¡Oye, Gevalt! [suspiros] 749 00:33:03,894 --> 00:33:05,331 TED: Dan, ¿estás listo? 750 00:33:05,374 --> 00:33:06,680 PEDRO DIAMANDIS: Hola Daniel. 751 00:33:07,724 --> 00:33:09,465 DANIEL: Oye, ¿cómo estás? 752 00:33:09,509 --> 00:33:11,032 DIAMANDIS: Estoy... estoy bien. 753 00:33:11,076 --> 00:33:13,948 Creo, eh... creo Necesito ayuda, Peter. 754 00:33:15,254 --> 00:33:17,604 Um, he estado trabajando en esta película durante aproximadamente, 755 00:33:17,647 --> 00:33:19,823 voy a decir, ocho o diez meses ahora. 756 00:33:19,867 --> 00:33:23,262 Ha sido muy, a veces, deprimente. 757 00:33:23,305 --> 00:33:25,612 -Mmm. -Me he sentido muy alienado 758 00:33:25,655 --> 00:33:27,744 -Haciendo esta película. -¿Por quién? 759 00:33:27,788 --> 00:33:30,051 Por todo esto, el-- todos estos chicos 760 00:33:30,095 --> 00:33:33,228 que se sientan y me dicen que el mundo se va a acabar. 761 00:33:33,272 --> 00:33:34,708 -Ah. -Eso, como, 762 00:33:34,751 --> 00:33:36,536 ya sabes, e-esto mierda fatal, ¿sabes? 763 00:33:36,579 --> 00:33:38,059 Lo sé bien. 764 00:33:38,103 --> 00:33:39,408 "Estamos todos condenados. Todos van a morir. 765 00:33:39,452 --> 00:33:40,931 Todo es horrible." 766 00:33:40,975 --> 00:33:43,151 Impresionante. Eh, déjame traerte algo de luz. 767 00:33:43,195 --> 00:33:44,718 Por favor. 768 00:33:44,761 --> 00:33:48,156 Realmente estamos viviendo en un tiempo extraordinario. 769 00:33:49,418 --> 00:33:51,333 Y mucha gente lo olvida. 770 00:33:51,377 --> 00:33:53,640 Todo lo que nos rodea es un producto de la inteligencia, 771 00:33:53,683 --> 00:33:57,035 y así todo lo que tocamos con estas nuevas herramientas es probable 772 00:33:57,078 --> 00:33:59,646 para producir mucho más valor de lo que jamás hayamos visto antes. 773 00:33:59,689 --> 00:34:02,823 La IA puede ayudarnos a descubrir nuevos materiales. 774 00:34:02,866 --> 00:34:04,999 La IA puede ayudar a los científicos sociales 775 00:34:05,043 --> 00:34:07,349 entender cómo funciona la economía. 776 00:34:07,393 --> 00:34:11,658 Hay mucho que la IA podría hacer para mejorar la vida y el trabajo. 777 00:34:11,701 --> 00:34:14,095 Me siento más empoderado hoy, 778 00:34:14,139 --> 00:34:16,315 más confiado para aprender algo hoy. 779 00:34:16,358 --> 00:34:19,057 Nos convertiremos en superhumanos porque tenemos súper IA. 780 00:34:19,100 --> 00:34:21,798 Esto es solo el comienzo de una explosión. 781 00:34:21,842 --> 00:34:24,453 Colaboración entre humanos y IA 782 00:34:24,497 --> 00:34:26,455 resolver problemas realmente importantes. 783 00:34:26,499 --> 00:34:29,763 Está aquí para liberarnos. de trabajos rutinarios, 784 00:34:29,806 --> 00:34:33,723 y está aquí para recordarnos qué es lo que nos hace humanos. 785 00:34:33,767 --> 00:34:35,769 creo que esto es 786 00:34:35,812 --> 00:34:38,598 el momento más extraordinario estar vivo. 787 00:34:38,641 --> 00:34:42,036 El único momento más emocionante que hoy es mañana. 788 00:34:42,080 --> 00:34:45,257 Eh, creo que niños nacidos hoy, 789 00:34:45,300 --> 00:34:47,259 están a punto de entrar 790 00:34:47,302 --> 00:34:50,827 un periodo glorioso de transformación humana. 791 00:34:50,871 --> 00:34:52,525 ¿Tendremos desafíos? Por supuesto. 792 00:34:52,568 --> 00:34:55,180 ¿Podemos resolver esos desafíos? Lo hacemos cada vez. 793 00:34:55,223 --> 00:34:57,704 Estamos aquí lo cual es milagroso. 794 00:34:57,747 --> 00:35:00,272 -Ya te amo. -[risas]: Está bien. 795 00:35:00,315 --> 00:35:01,925 -súper agradecido tenerte aquí. -[aplausos] 796 00:35:01,969 --> 00:35:03,362 -Muy feliz de estar aquí. -Sí. 797 00:35:03,405 --> 00:35:04,885 Entonces, la palabra es suya, señor. 798 00:35:04,928 --> 00:35:07,409 Muchas gracias. Súper emocionado de estar aquí. 799 00:35:07,453 --> 00:35:10,586 GUILLAUME VERDÓN: Yo, yo. Está bien. 800 00:35:10,630 --> 00:35:12,284 El futuro será asombroso. 801 00:35:12,327 --> 00:35:14,286 Quiero decir, desde que era un niño, 802 00:35:14,329 --> 00:35:17,332 queria entender el universo en el que vivimos, 803 00:35:17,376 --> 00:35:20,422 para poder descubrir cómo crear las tecnologías 804 00:35:20,466 --> 00:35:23,991 que nos ayudan a aumentar el alcance y escala de la civilización. 805 00:35:24,034 --> 00:35:26,689 me siento como si todos tuvieran esa mentalidad, 806 00:35:26,733 --> 00:35:29,214 entonces realmente viviríamos en un mundo mejor, ¿verdad? 807 00:35:29,257 --> 00:35:30,519 Yo sí creo eso. 808 00:35:32,782 --> 00:35:34,697 -DANIEL: Hola, Pete. ¿Cómo estás? -[risas] 809 00:35:34,741 --> 00:35:36,525 PEDRO LEE: Pensé mucho en 810 00:35:36,569 --> 00:35:39,049 lo que yo llamaría pavor, Miedo a la IA. 811 00:35:39,093 --> 00:35:40,703 Lo siento. 812 00:35:40,747 --> 00:35:43,271 N-no me he conocido cualquier ser humano reflexivo 813 00:35:43,315 --> 00:35:45,143 quien no lo siente. 814 00:35:45,186 --> 00:35:48,276 Y cualquiera que diga que no sentirlo, ya sabes, es mentir. 815 00:35:48,320 --> 00:35:50,104 Pero, ya sabes, en general, y la razón 816 00:35:50,148 --> 00:35:53,716 que soy personalmente optimista sobre esto, eh, es eso 817 00:35:53,760 --> 00:35:56,545 una enorme fracción de la población mundial las personas mas inteligentes 818 00:35:56,589 --> 00:35:58,417 están pensando muy duro 819 00:35:58,460 --> 00:36:02,116 sobre el potencial aguas abajo Daños y riesgos de la IA. 820 00:36:02,160 --> 00:36:05,641 Tenemos este tipo de visión. de seguridad siendo, uh, 821 00:36:05,685 --> 00:36:08,253 algo así como en el centro de la investigación que hacemos. 822 00:36:08,296 --> 00:36:09,558 DANIELA AMODEI: No, eso está totalmente bien. 823 00:36:09,602 --> 00:36:10,820 [charla confusa] 824 00:36:10,864 --> 00:36:13,562 creo que hay mas 825 00:36:13,606 --> 00:36:17,436 beneficios potenciales que hay posibles desventajas, 826 00:36:17,479 --> 00:36:19,481 y creo que le corresponde 827 00:36:19,525 --> 00:36:21,831 las personas que son creando esta tecnología 828 00:36:21,875 --> 00:36:24,530 para asegurarnos de que estamos haciendo el mejor trabajo que podemos 829 00:36:24,573 --> 00:36:25,835 para que sea seguro para las personas. 830 00:36:25,879 --> 00:36:27,402 MUJER: Reid Hoffman. 831 00:36:27,446 --> 00:36:28,969 REID HOFFMAN: Lo que te puedo garantizar es 832 00:36:29,012 --> 00:36:30,536 -Pasarán algunas cosas malas. -Toma uno. 833 00:36:30,579 --> 00:36:32,668 ¿Qué vamos a intentar hacer? es hacer esas cosas malas 834 00:36:32,712 --> 00:36:36,150 tan pocos y no tan grandes como sea posible, 835 00:36:36,194 --> 00:36:38,370 y luego vamos a iterar tener-- 836 00:36:38,413 --> 00:36:40,633 estar en un lugar mucho mejor con la sociedad. 837 00:36:40,676 --> 00:36:43,679 -Hola. -SHAW WALTERS: Hola. 838 00:36:43,723 --> 00:36:45,246 DANIEL: ¿Cómo estás, Luna? 839 00:36:45,290 --> 00:36:48,989 Siento que estamos terminando un capítulo en la humanidad 840 00:36:49,032 --> 00:36:50,512 y comenzando uno nuevo, 841 00:36:50,556 --> 00:36:53,211 y es muy interesante tiempo para estar vivo. 842 00:36:53,254 --> 00:36:54,429 Y si pudiera nacer ahora mismo, 843 00:36:54,473 --> 00:36:55,865 Definitivamente quisiera serlo. 844 00:36:55,909 --> 00:36:57,476 Eso sería muy emocionante. 845 00:36:57,519 --> 00:37:00,305 Estoy muy emocionado. [risas] 846 00:37:00,348 --> 00:37:02,481 Qué, qué futuro. ¿Te emociona... te emociona? 847 00:37:02,524 --> 00:37:03,699 No. 848 00:37:03,743 --> 00:37:06,528 -[risas] -No, realmente no. 849 00:37:06,572 --> 00:37:08,313 DANIEL: Muchas de estas personas Me han dicho eso, ya sabes, 850 00:37:08,356 --> 00:37:10,445 mi hijo no lo logrará a la escuela secundaria. 851 00:37:10,489 --> 00:37:13,318 ¿Por qué se equivocan? Por favor explícamelo. 852 00:37:13,361 --> 00:37:15,058 Sólo porque tienes-- 853 00:37:15,102 --> 00:37:18,845 te cuesta predecir el futuro en tu propia mente 854 00:37:18,888 --> 00:37:23,023 no significa que sea necesariamente va a ir terriblemente. 855 00:37:23,066 --> 00:37:26,592 De hecho, hay una probabilidad muy alta 856 00:37:26,635 --> 00:37:28,289 y el precedente histórico es eso 857 00:37:28,333 --> 00:37:30,117 las cosas mejoran enormemente. 858 00:37:30,160 --> 00:37:34,469 El término que uso es "Optimismo basado en datos". 859 00:37:34,513 --> 00:37:38,647 Hay una base sólida para que seas optimista. 860 00:37:38,691 --> 00:37:41,998 mira lo que este último siglo ha sido 861 00:37:42,042 --> 00:37:44,087 para ver hacia dónde vamos. 862 00:37:44,131 --> 00:37:45,915 Durante los últimos cien años, 863 00:37:45,959 --> 00:37:48,701 la esperanza de vida humana promedio se ha más que duplicado. 864 00:37:48,744 --> 00:37:51,269 Ingreso promedio per cápita ajustado por inflación 865 00:37:51,312 --> 00:37:53,619 en todo el mundo se ha triplicado. 866 00:37:53,662 --> 00:37:57,057 La mortalidad infantil ha bajar un factor de diez. 867 00:37:57,100 --> 00:37:59,712 El mundo ha mejorado en casi todas las medidas 868 00:37:59,755 --> 00:38:03,019 por órdenes de magnitud debido a la tecnología. 869 00:38:03,063 --> 00:38:05,152 En casi todas las medidas. 870 00:38:05,195 --> 00:38:09,722 Menos violencia, más educación. acceso a energía, alimentos, agua. 871 00:38:09,765 --> 00:38:12,942 Todas estas cosas han pasado por una razón. 872 00:38:12,986 --> 00:38:15,336 ha sido la tecnología 873 00:38:15,380 --> 00:38:17,556 que se ha convertido en escasez en abundancia, 874 00:38:17,599 --> 00:38:19,514 pero también está impulsado a una abundancia 875 00:38:19,558 --> 00:38:21,864 de algunas negatividades, ¿verdad? 876 00:38:21,908 --> 00:38:25,738 Abundancia de obesidad, abundancia de trastornos mentales, 877 00:38:25,781 --> 00:38:29,437 abundancia del cambio climático, y así sucesivamente. 878 00:38:29,481 --> 00:38:31,309 Y sí, esto es cierto. 879 00:38:31,352 --> 00:38:34,094 Pero probablemente lo estaremos mejor equipados para resolverlo 880 00:38:34,137 --> 00:38:36,226 utilizando otras tecnologías, como IA, 881 00:38:36,270 --> 00:38:39,273 de lo que, digamos, pararemos y apagando todo. 882 00:38:39,317 --> 00:38:41,449 Puede haber algún riesgo existencial, 883 00:38:41,493 --> 00:38:45,323 pero la IA también es la cuestión que puede resolver las pandemias, 884 00:38:45,366 --> 00:38:47,455 puede ayudarnos con el cambio climático, 885 00:38:47,499 --> 00:38:50,545 puede ayudar a identificar ese asteroide allá afuera 886 00:38:50,589 --> 00:38:52,547 antes de que lo hayamos visto como un riesgo potencial 887 00:38:52,591 --> 00:38:54,332 y ayudar a mitigarlo. 888 00:38:54,375 --> 00:38:58,074 Esto realmente va a ser la herramienta que nos ayuda a afrontar 889 00:38:58,118 --> 00:39:01,426 todos los desafíos que estamos enfrentar como especie, ¿verdad? 890 00:39:01,469 --> 00:39:04,167 Necesitamos arreglar desalinización del agua. 891 00:39:04,211 --> 00:39:05,995 Necesitamos cultivar alimentos 892 00:39:06,039 --> 00:39:08,433 100 veces más barato que actualmente lo hacemos. 893 00:39:08,476 --> 00:39:12,350 Necesitamos que la energía renovable sea, ya sabes, omnipresente 894 00:39:12,393 --> 00:39:14,047 y en todas partes de nuestras vidas. 895 00:39:14,090 --> 00:39:17,137 Dondequiera que mires, en los próximos 50 años, 896 00:39:17,180 --> 00:39:19,269 tenemos que hacer más con menos. 897 00:39:19,313 --> 00:39:23,186 Máquinas de entrenamiento para ayudarnos es absolutamente esencial. 898 00:39:23,230 --> 00:39:24,797 Los científicos están utilizando inteligencia artificial 899 00:39:24,840 --> 00:39:25,972 para la captura de carbono. 900 00:39:26,015 --> 00:39:27,582 Es una tecnología crítica. 901 00:39:27,626 --> 00:39:29,541 DIAMANDIS: Las herramientas para resolver estos problemas, 902 00:39:29,584 --> 00:39:32,195 como fusión, eso ya no es teórico, 903 00:39:32,239 --> 00:39:33,980 ya viene. 904 00:39:34,023 --> 00:39:37,723 Estamos en el precipicio de tecnologías extraordinarias. 905 00:39:37,766 --> 00:39:39,986 AMNA NAWAZ: Este año Premio Nobel de Química 906 00:39:40,029 --> 00:39:42,815 fue a tres científicos por su trabajo innovador 907 00:39:42,858 --> 00:39:44,556 usando inteligencia artificial 908 00:39:44,599 --> 00:39:47,297 para avanzar en biomedicina y la investigación de proteínas. 909 00:39:47,341 --> 00:39:49,691 DEMIS HASSABIS: El plegamiento de proteínas es 910 00:39:49,735 --> 00:39:53,608 uno de estos santo grial Problemas tipográficos en biología. 911 00:39:53,652 --> 00:39:55,741 Entonces la gente ha estado prediciendo desde los años 70 912 00:39:55,784 --> 00:39:58,091 que esto debería ser posible, pero hasta ahora, 913 00:39:58,134 --> 00:39:59,571 nadie ha podido hacerlo. 914 00:39:59,614 --> 00:40:01,181 Y va a ser realmente importante para las cosas 915 00:40:01,224 --> 00:40:03,618 como el descubrimiento de drogas y comprender la enfermedad. 916 00:40:03,662 --> 00:40:06,534 Creo que podríamos, ya sabes, curar la mayoría de las enfermedades 917 00:40:06,578 --> 00:40:11,931 dentro de la próxima década o dos si el diseño de fármacos con IA funciona. 918 00:40:11,974 --> 00:40:15,630 El progreso tecnológico permite más vidas humanas, ¿verdad? 919 00:40:15,674 --> 00:40:18,677 Quiero decir, si aceleramos, 920 00:40:18,720 --> 00:40:21,723 el número de humanos que podemos El apoyo crece exponencialmente. 921 00:40:21,767 --> 00:40:24,073 Si reducimos la velocidad, se estabiliza. 922 00:40:24,117 --> 00:40:27,729 Esa brecha es efectivamente personas del futuro 923 00:40:27,773 --> 00:40:31,341 esa desaceleración tiene efectivamente asesinado. 924 00:40:31,385 --> 00:40:33,909 DANIEL: Millones de vidas eso no existirá. 925 00:40:33,953 --> 00:40:35,128 Miles de millones. 926 00:40:35,171 --> 00:40:36,782 O decenas de miles de millones. 927 00:40:36,825 --> 00:40:38,436 Sabes, alguien dijo, "Oh, Dios mío, 928 00:40:38,479 --> 00:40:40,655 ¿podemos sobrevivir con ¿Superinteligencia digital? 929 00:40:40,699 --> 00:40:42,309 Y mi pregunta es: 930 00:40:42,352 --> 00:40:44,180 ¿Podemos sobrevivir sin ¿Superinteligencia digital? 931 00:40:44,224 --> 00:40:47,575 Entonces estamos usando IA como asistente de proveedores. 932 00:40:47,619 --> 00:40:50,448 Esta es generalmente una tendencia que ya podemos ver que está sucediendo. 933 00:40:50,491 --> 00:40:52,319 BERTHA COOMBS: ...aprovechando programas de IA generativa 934 00:40:52,362 --> 00:40:54,060 para ayudar a médicos y enfermeras... 935 00:40:54,103 --> 00:40:56,062 Siempre tenemos problemas. 936 00:40:56,105 --> 00:40:59,108 Y esos problemas son la comida. para emprendedores 937 00:40:59,152 --> 00:41:01,154 para crear nuevos negocios y nuevas industrias. 938 00:41:01,197 --> 00:41:03,069 SHANELLE KAUL: ...con la ayuda de inteligencia artificial, 939 00:41:03,112 --> 00:41:04,766 los agricultores están obteniendo la ayuda que necesitan 940 00:41:04,810 --> 00:41:06,594 realizar tareas que requieren mucha mano de obra... 941 00:41:06,638 --> 00:41:10,163 Con la ayuda de Ulangizi AI, los agricultores ahora pueden 942 00:41:10,206 --> 00:41:12,948 preguntar los cultivos adecuados que puedan sembrar. 943 00:41:12,992 --> 00:41:14,950 WILL REEVE: ...Se utiliza IA como decodificador de pensamientos 944 00:41:14,994 --> 00:41:17,387 y enviando esa señal a la columna vertebral. 945 00:41:17,431 --> 00:41:21,609 La IA se convertirá en lo más extraordinaria herramienta de todas. 946 00:41:21,653 --> 00:41:24,264 Nosotros como sociedad más amplia tengo que pensar en 947 00:41:24,307 --> 00:41:27,049 ¿Cómo queremos usar? esta tecnología, ¿verdad? 948 00:41:27,093 --> 00:41:28,529 Nosotros los humanos. 949 00:41:28,573 --> 00:41:31,097 ¿Qué queremos que haga por nosotros? 950 00:41:31,140 --> 00:41:34,535 ♪ ♪ 951 00:41:34,579 --> 00:41:36,189 DANIEL: Estoy pensando en esto. a través de la perspectiva 952 00:41:36,232 --> 00:41:37,886 y lente de, como, mi hijo creciendo 953 00:41:37,930 --> 00:41:39,540 en el mundo con todo esto. 954 00:41:39,584 --> 00:41:42,238 ¿Cuál es la mejor versión? ¿Cómo se ve su vida? 955 00:41:42,282 --> 00:41:44,589 Si todo sale bien. 956 00:41:44,632 --> 00:41:46,808 [suspira profundamente] 957 00:41:46,852 --> 00:41:50,246 WALTERS: El lugar donde los niños probablemente vamos a ver 958 00:41:50,290 --> 00:41:52,684 el mayor impacto en su vida inmediatamente 959 00:41:52,727 --> 00:41:54,424 -Probablemente será la escuela. -[niños charlando] 960 00:41:54,468 --> 00:41:56,688 Creo que la naturaleza de que escuela es 961 00:41:56,731 --> 00:41:58,472 va a cambiar fundamentalmente. 962 00:41:58,516 --> 00:42:00,474 [risas del niño] 963 00:42:00,518 --> 00:42:02,737 DIAMANDIS: Estoy viendo este mundo maravilloso 964 00:42:02,781 --> 00:42:06,436 donde todos los niños tienen acceso a no tener buena educación 965 00:42:06,480 --> 00:42:09,091 pero, muy pronto, el La mejor educación del planeta. 966 00:42:09,135 --> 00:42:13,879 HOFFMAN: Tutores, todas las materias, infinitamente paciente. 967 00:42:18,013 --> 00:42:20,059 DIAMANDIS: imagina un futuro 968 00:42:20,102 --> 00:42:22,235 donde la gente más pobre en el planeta 969 00:42:22,278 --> 00:42:25,804 tener acceso a la mejor atención sanitaria. 970 00:42:25,847 --> 00:42:29,547 No es buena atención sanitaria, la mejor. atención médica, brindada por IA. 971 00:42:31,157 --> 00:42:32,767 [trino electrónico] 972 00:42:34,334 --> 00:42:38,556 Vamos a poder extender nuestra salud, 973 00:42:38,599 --> 00:42:42,168 no sólo nuestra esperanza de vida, nuestra duración de salud, por décadas. 974 00:42:44,431 --> 00:42:46,215 HOFFMAN: Estás a punto de tener un hijo. 975 00:42:46,259 --> 00:42:49,697 Oh, el niño, como, eructar incontrolablemente. 976 00:42:49,741 --> 00:42:52,047 ¿Es esto algo ¿Debería preocuparme? 977 00:42:52,091 --> 00:42:54,223 Allí, 24 horas al día, 7 días a la semana, para ti. 978 00:42:54,267 --> 00:42:57,183 Y adónde vamos... y puede resultar aterrador para algunos... 979 00:42:57,226 --> 00:42:59,228 es que nos vamos a fusionar con IA. 980 00:42:59,272 --> 00:43:01,361 vamos a fusionarnos con la tecnología. 981 00:43:02,667 --> 00:43:06,105 Desde principios hasta mediados de la década de 2030, 982 00:43:06,148 --> 00:43:10,457 Espero que seamos capaces de conectar nuestro cerebro a la nube, 983 00:43:10,500 --> 00:43:13,721 donde puedo empezar para ampliar el acceso a la memoria. 984 00:43:16,071 --> 00:43:18,030 [trino electrónico] 985 00:43:19,771 --> 00:43:22,077 DANIEL: Está bien, esto es genial. ¿Qué otra cosa interesante de la IA? 986 00:43:22,121 --> 00:43:23,775 No tendrá que trabajar, ¿verdad? 987 00:43:23,818 --> 00:43:25,167 -Como cuando sea mayor, quizás no lo hubiera hecho… -[suspiro] 988 00:43:25,211 --> 00:43:26,212 -...no tendrá que tener trabajo. -Quiero decir... 989 00:43:26,255 --> 00:43:27,779 No tendrá que tener un trabajo, 990 00:43:27,822 --> 00:43:30,608 pero realmente podría haberlo hecho una pasión fuerte, 991 00:43:30,651 --> 00:43:33,132 y el tiene que realmente piensa en, 992 00:43:33,175 --> 00:43:36,091 "Está bien, estoy aquí. Puedo hacer cualquier cosa con mi vida. 993 00:43:36,135 --> 00:43:37,876 Entonces ¿qué hago?". 994 00:43:38,920 --> 00:43:40,182 Necesitamos encontrar un significado, 995 00:43:40,226 --> 00:43:42,620 más allá de como, esta forma actual de 996 00:43:42,663 --> 00:43:45,666 vivimos para el trabajo y trabajar para vivir. 997 00:43:45,710 --> 00:43:49,844 DANIEL: Entonces mi hijo puede... Puede ser simplemente un poeta. 998 00:43:49,888 --> 00:43:51,541 -Sí. -Y pintor. 999 00:43:51,585 --> 00:43:53,021 Absolutamente. 1000 00:43:53,065 --> 00:43:54,849 DANIEL: Para que mi hijo pueda vivir su vida. 1001 00:43:54,893 --> 00:43:57,591 en una isla griega bañada por el sol, pintando todo el día. 1002 00:43:57,635 --> 00:43:59,114 YU: Absolutamente. Posible. 1003 00:44:00,072 --> 00:44:01,203 Absolutamente. 1004 00:44:01,247 --> 00:44:02,944 Bueno, estamos trabajando para eso. 1005 00:44:02,988 --> 00:44:04,554 eso es mucho trabajo por hacer antes de que lleguemos allí. 1006 00:44:06,992 --> 00:44:08,776 VERDÓN: Quiero decir, si todo sale bien, 1007 00:44:08,820 --> 00:44:11,997 tenemos barato, eh, energía abundante. 1008 00:44:13,607 --> 00:44:17,219 Podemos controlar completamente el clima de nuestro planeta. 1009 00:44:17,263 --> 00:44:20,135 Estamos aprovechando la energía del sol. 1010 00:44:20,179 --> 00:44:24,400 Nos hemos vuelto multiplanetarios, entonces nos volvemos muy robustos. 1011 00:44:24,444 --> 00:44:26,664 Estamos aprovechando los minerales y recursos 1012 00:44:26,707 --> 00:44:28,404 del sistema solar. 1013 00:44:28,448 --> 00:44:31,233 DANIEL: Entonces mi... Mi hijo podría ir al espacio. 1014 00:44:31,277 --> 00:44:32,887 VERDÓN: Claro. 1015 00:44:32,931 --> 00:44:34,715 -DANIEL: Podría ir a Marte. -VERDÓN: Sí. 1016 00:44:34,759 --> 00:44:36,369 DANIEL: Está muy claro para mí ahora. 1017 00:44:36,412 --> 00:44:39,198 mi hijo podría crecer en un mundo sin enfermedades. 1018 00:44:39,241 --> 00:44:40,590 -VERDÓN: Sí. -Sin ninguna enfermedad. 1019 00:44:40,634 --> 00:44:41,896 -Seguro. -Sin pobreza. 1020 00:44:41,940 --> 00:44:43,681 -Sí. -Estamos a punto de entrar 1021 00:44:43,724 --> 00:44:46,640 un mundo post-escasez. 1022 00:44:46,684 --> 00:44:50,470 Así como se movió el pez pulmonado De los océanos a la tierra. 1023 00:44:50,513 --> 00:44:53,081 cientos de millones de hace años, 1024 00:44:53,125 --> 00:44:57,999 estamos a punto de salir de la Tierra, hacia el cosmos, 1025 00:44:58,043 --> 00:44:59,871 de manera colaborativa, 1026 00:44:59,914 --> 00:45:03,744 hacer cosas que son insondable para nosotros hoy. 1027 00:45:06,268 --> 00:45:09,184 Esto es lo que es posible usando estas tecnologías exponenciales 1028 00:45:09,228 --> 00:45:10,708 y estas IA. 1029 00:45:11,839 --> 00:45:13,928 Usemos estas herramientas 1030 00:45:13,972 --> 00:45:16,104 para crear esta era de abundancia. 1031 00:45:16,148 --> 00:45:18,150 [clic electrónico] 1032 00:45:20,500 --> 00:45:22,937 Necesitamos sabiduría. 1033 00:45:22,981 --> 00:45:25,984 Eh, creo que superinteligencia digital 1034 00:45:26,027 --> 00:45:28,726 finalmente se convertirá el más sabio, 1035 00:45:28,769 --> 00:45:34,253 ya sabes, los ancianos del pueblo para la humanidad. 1036 00:45:34,296 --> 00:45:37,996 ¿Qué pasa si la IA lo intenta? hacer que la gente sea 1037 00:45:38,039 --> 00:45:39,737 ¿Las mejores versiones de sí mismos? 1038 00:45:39,780 --> 00:45:41,347 ¿Qué pasa si se está expandiendo? 1039 00:45:41,390 --> 00:45:43,392 lo que es humanamente posible que debemos hacer? 1040 00:45:43,436 --> 00:45:46,656 ¿Cómo podemos utilizar esta tecnología? 1041 00:45:46,700 --> 00:45:49,921 para ayudar a sacar a relucir el mejores ángeles de nuestra naturaleza? 1042 00:45:49,964 --> 00:45:51,661 Es muy fácil 1043 00:45:51,705 --> 00:45:54,316 cuando encontramos cosas nuevas eso puede ser muy extraño, 1044 00:45:54,360 --> 00:45:55,927 primero tener miedo. 1045 00:45:55,970 --> 00:45:57,493 El miedo es algo importante. 1046 00:45:57,537 --> 00:46:00,322 para saber cómo navegar cosas potencialmente malas. 1047 00:46:00,366 --> 00:46:03,717 Pero sólo avanzamos cuando tenemos esperanza. 1048 00:46:03,761 --> 00:46:05,719 -[perro ladra] -[charla confusa] 1049 00:46:05,763 --> 00:46:07,895 DANIEL: Shh. Alce, basta. 1050 00:46:07,939 --> 00:46:10,811 HOFFMAN: Tengo mucho de esperanza en la humanidad. 1051 00:46:10,855 --> 00:46:13,814 ["Luna de cosecha" de Neil Young jugando por teléfono] 1052 00:46:15,294 --> 00:46:17,296 [latidos del corazón fetal] 1053 00:46:18,471 --> 00:46:19,951 DANIEL: Oh, le gusta Neil. 1054 00:46:24,694 --> 00:46:27,480 ♪ Acércate un poco más ♪ 1055 00:46:28,916 --> 00:46:32,790 ♪ Escucha lo que tengo que decir ♪ 1056 00:46:36,576 --> 00:46:38,665 -Daniel. -DANIEL: ¿Qué, Carolina? 1057 00:46:38,708 --> 00:46:40,058 Tanta filmación. 1058 00:46:41,537 --> 00:46:43,061 ♪ Como los niños durmiendo ♪ 1059 00:46:43,104 --> 00:46:44,889 CAROLINA: Dios mío. 1060 00:46:44,932 --> 00:46:46,368 DANIEL: Eso es todo. 1061 00:46:46,412 --> 00:46:49,415 ♪ Podríamos soñar esta noche fuera... ♪ 1062 00:46:49,458 --> 00:46:51,678 Él tiene, como, una carita redonda. 1063 00:46:53,245 --> 00:46:55,203 DANIEL: ¿Quieres ¿Tener hijos algún día, Rocky? 1064 00:46:55,247 --> 00:46:57,423 Absolutamente. Sí. Amo a los niños. 1065 00:46:57,466 --> 00:46:59,033 Creo que es un gran momento tener un hijo. 1066 00:46:59,077 --> 00:47:00,730 Probablemente tendremos otro hijo. en algún momento. 1067 00:47:00,774 --> 00:47:03,733 Este es el mas extraordinario tiempo para nacer. 1068 00:47:03,777 --> 00:47:05,823 DANIEL: Por tu cosmovisión y lógica, 1069 00:47:05,866 --> 00:47:07,868 voy a tener un hijo en 1070 00:47:07,912 --> 00:47:09,478 el mejor punto posible en la historia humana. 1071 00:47:09,522 --> 00:47:10,828 Demonios, sí. 1072 00:47:10,871 --> 00:47:13,308 -Podemos centrarnos en lo increíble. -Sí. 1073 00:47:13,352 --> 00:47:15,528 vamos a construir el futuro mejor que queremos. 1074 00:47:15,571 --> 00:47:18,313 Esa narrativa de que el futuro será sombrío es inventado. 1075 00:47:18,357 --> 00:47:20,011 Después de hablar contigo, así es como me siento. 1076 00:47:20,054 --> 00:47:21,969 -Genial. -¿Bien? 1077 00:47:22,013 --> 00:47:24,189 Sí. Así es como me siento. 1078 00:47:24,232 --> 00:47:25,799 Y creo que eso es mejor 1079 00:47:25,843 --> 00:47:27,627 y no creo Debería estar tan [bip] ansioso. 1080 00:47:27,670 --> 00:47:29,063 Creo que va a ser asombroso... el futuro será increíble. 1081 00:47:29,107 --> 00:47:30,499 Así lo haremos. 1082 00:47:30,543 --> 00:47:32,675 -Sí. -CAROLINE: Ahí lo tienes. 1083 00:47:32,719 --> 00:47:34,808 Adiós, extinción humana. 1084 00:47:34,852 --> 00:47:37,158 Adiós ansiedad. 1085 00:47:37,202 --> 00:47:39,030 Esperanza encontrada. 1086 00:47:39,073 --> 00:47:40,553 [charla confusa] 1087 00:47:40,596 --> 00:47:42,860 Espera, espera. ¿Qué? ¿Es esto una broma? 1088 00:47:42,903 --> 00:47:44,774 DANIEL: Bien, hace unos meses, 1089 00:47:44,818 --> 00:47:47,690 Vine a ti y pensé: "Estoy trabajando en esto de la IA, 1090 00:47:47,734 --> 00:47:49,867 y creo El mundo se va a acabar". 1091 00:47:49,910 --> 00:47:52,913 Y la última vez hablamos de esto, 1092 00:47:52,957 --> 00:47:55,002 Creo que te asusté. 1093 00:47:55,046 --> 00:47:57,004 CAROLINA: Sí. 1094 00:47:57,048 --> 00:48:02,314 Así que me siento como si Me balanceé en un péndulo, 1095 00:48:02,357 --> 00:48:04,446 y esencialmente hay dos grupos de personas. 1096 00:48:04,490 --> 00:48:06,057 -Mm-hmm. -Y si tuviera que hacerlo, como, 1097 00:48:06,100 --> 00:48:07,841 tomarse de la mano con uno de los grupos y, como, 1098 00:48:07,885 --> 00:48:10,278 navega hacia el atardecer, 1099 00:48:10,322 --> 00:48:13,281 Quiero estar con los optimistas. 1100 00:48:15,066 --> 00:48:17,982 Por supuesto, pero no lo haces quiero ser, ya sabes, 1101 00:48:18,025 --> 00:48:20,723 "Todo es genial. La-di-da-di-da." 1102 00:48:20,767 --> 00:48:22,682 Aunque en cierto modo quiero eso. 1103 00:48:22,725 --> 00:48:25,598 Creo que deberíamos abordarlo 1104 00:48:25,641 --> 00:48:29,341 como te acercas a la cirugía. 1105 00:48:29,384 --> 00:48:30,690 ¿Qué quieres decir? 1106 00:48:30,733 --> 00:48:32,431 Si estas consiguiendo cirugía cerebral... 1107 00:48:32,474 --> 00:48:34,781 -[Daniel suspira] -[Caroline se ríe] 1108 00:48:34,824 --> 00:48:36,957 ...es bastante peligroso. 1109 00:48:37,001 --> 00:48:39,829 Pero si lo haces bien, sacarán ese tumor 1110 00:48:39,873 --> 00:48:42,354 y vivirás por el resto de tu vida y será increíble. 1111 00:48:42,397 --> 00:48:45,096 Pero todavía es increíblemente peligroso y aterrador, 1112 00:48:45,139 --> 00:48:47,968 y tienes que tomar todas las precauciones posibles 1113 00:48:48,012 --> 00:48:51,276 para asegurarse todo va bien. 1114 00:48:51,319 --> 00:48:52,668 No puedes [pitir] por ahí. 1115 00:48:57,760 --> 00:48:59,762 Bien, aquí está el trato. 1116 00:48:59,806 --> 00:49:01,503 -Llevo un tiempo en esto. -RASKIN: Mm-hmm. 1117 00:49:01,547 --> 00:49:02,896 he salido He hablado con, como, 1118 00:49:02,940 --> 00:49:04,767 estos tipos de aquí, los optimistas. 1119 00:49:04,811 --> 00:49:06,465 Están muy entusiasmados con esto. 1120 00:49:06,508 --> 00:49:08,510 -Creen que la IA será lo mejor que existe. -Sí. 1121 00:49:08,554 --> 00:49:09,947 Y estos tipos de aquí son, como, los-- 1122 00:49:09,990 --> 00:49:11,992 llamémoslos, como los pesimistas. 1123 00:49:12,036 --> 00:49:14,299 Son muy como, triste por esto, 1124 00:49:14,342 --> 00:49:16,649 y me dan miedo, y No me gusta hablar con ellos. 1125 00:49:16,692 --> 00:49:19,565 Y estoy como atrapado en el medio 1126 00:49:19,608 --> 00:49:21,741 estas personas que son como, "El mundo se va a acabar" 1127 00:49:21,784 --> 00:49:24,178 y luego e-estas personas por aquí que son como, 1128 00:49:24,222 --> 00:49:25,745 "¿Estás bromeando? 1129 00:49:25,788 --> 00:49:27,268 "Este es el mejor momento en la historia de la humanidad. 1130 00:49:27,312 --> 00:49:29,357 El único día mejor que hoy. es mañana." 1131 00:49:29,401 --> 00:49:30,880 Mmmm. 1132 00:49:30,924 --> 00:49:34,710 Entonces, supongo que la pregunta es: ¿Quién tiene razón? 1133 00:49:34,754 --> 00:49:39,193 Entonces, creo que vas a encontrar Esta respuesta es muy insatisfactoria. 1134 00:49:39,237 --> 00:49:42,849 pero ambos tienen razón y Ninguno de los lados llega lo suficientemente lejos. 1135 00:49:46,766 --> 00:49:49,247 -Eso es realmente molesto. -[risas] 1136 00:49:49,290 --> 00:49:51,336 Sí, creo que la manera mucha gente oye hablar de la IA, 1137 00:49:51,379 --> 00:49:53,642 es como si hubiera una buena IA y hay una mala IA. 1138 00:49:53,686 --> 00:49:56,428 Y dicen: "Bueno, ¿por qué no puedo?" ¿Simplemente no hacemos la IA mala?" 1139 00:49:56,471 --> 00:49:58,734 Y el problema es que están demasiado en-- 1140 00:49:58,778 --> 00:50:00,867 están inextricablemente vinculados. 1141 00:50:00,910 --> 00:50:03,043 El problema es que no podemos separarnos 1142 00:50:03,087 --> 00:50:06,612 la promesa de la IA del peligro de la IA. 1143 00:50:06,655 --> 00:50:08,266 -♪ ♪ -[charla confusa] 1144 00:50:12,313 --> 00:50:14,663 DANIEL: Quiero centrarme en la promesa. 1145 00:50:14,707 --> 00:50:16,752 -por un segundo. -Sí. 1146 00:50:16,796 --> 00:50:18,798 DANIEL: Estoy pensando en mi papá. 1147 00:50:18,841 --> 00:50:21,105 mi papa tiene un tipo de cancer llamado mieloma múltiple. 1148 00:50:21,148 --> 00:50:23,107 Lo tiene desde hace unos diez años. 1149 00:50:23,150 --> 00:50:24,804 el ha tenido dos trasplantes de células madre. 1150 00:50:24,847 --> 00:50:26,414 Él tiene que tomar esto, como, muy caro 1151 00:50:26,458 --> 00:50:28,547 medicamentos cada mes eso costó una fortuna. 1152 00:50:28,590 --> 00:50:29,722 -MUJER: Está bien. -Ay-ay-ay. 1153 00:50:30,766 --> 00:50:32,551 DANIEL: Es horrible. 1154 00:50:32,594 --> 00:50:34,466 ¿Me estás diciendo que podemos? crear algún tipo de, como, 1155 00:50:34,509 --> 00:50:36,946 tratamiento a medida para el genoma de mi papá 1156 00:50:36,990 --> 00:50:39,297 -para curar su cáncer o algo asi? -Sí. 1157 00:50:39,340 --> 00:50:41,168 FERNANDO: El problema es, 1158 00:50:41,212 --> 00:50:44,302 el mismo entendimiento de biología y química 1159 00:50:44,345 --> 00:50:47,783 que permite a la IA encontrar curas para el cancer 1160 00:50:47,827 --> 00:50:51,657 es el mismo entendimiento eso desbloquearía 1161 00:50:51,700 --> 00:50:54,094 armas biológicas, por ejemplo. 1162 00:50:56,531 --> 00:50:58,490 es totalmente posible que tu hijo vivirá 1163 00:50:58,533 --> 00:51:01,928 en un mundo donde la IA tiene se hizo cargo de todo el trabajo 1164 00:51:01,971 --> 00:51:04,452 y nos liberó de las cosas no queremos hacer. 1165 00:51:04,496 --> 00:51:09,153 Y eso suena genial hasta que te das cuenta de que no hay ningún plan 1166 00:51:09,196 --> 00:51:11,242 para miles de millones de personas 1167 00:51:11,285 --> 00:51:16,116 que están sin ingresos y fuera de los medios de vida. 1168 00:51:16,160 --> 00:51:18,771 COOPER: Darío, dijiste que la IA podría acabar 1169 00:51:18,814 --> 00:51:21,730 la mitad de todos los niveles de entrada trabajos de cuello blanco 1170 00:51:21,774 --> 00:51:25,430 y aumentar el desempleo al diez al veinte por ciento. 1171 00:51:25,473 --> 00:51:27,258 Todas las personas con las que he hablado han dicho 1172 00:51:27,301 --> 00:51:29,390 este cambio tecnológico se ve diferente. 1173 00:51:29,434 --> 00:51:34,134 El ritmo del progreso se mantiene coger a la gente con la guardia baja. 1174 00:51:34,178 --> 00:51:38,834 Sin un plan, todo eso la riqueza se concentrará, 1175 00:51:38,878 --> 00:51:43,230 y así terminaremos con desigualdad inimaginable. 1176 00:51:43,274 --> 00:51:45,406 LADISH: Creo que eso esta tecnología se puede utilizar 1177 00:51:45,450 --> 00:51:47,408 para ser un gran tutor para tu hijo. 1178 00:51:47,452 --> 00:51:50,194 Eso es totalmente posible. 1179 00:51:50,237 --> 00:51:53,153 Pero también, las mismas capacidades. que permiten eso 1180 00:51:53,197 --> 00:51:57,070 permitir a las empresas hacer una IA que puede manipular a tu hijo. 1181 00:51:57,114 --> 00:51:59,290 Tiene que entender a tu hijo. 1182 00:51:59,333 --> 00:52:01,553 Eso incluye: ¿Dónde es vulnerable tu hijo? 1183 00:52:01,596 --> 00:52:04,251 ¿Qué tipo de cosas podrían ¿Tu hijo se deja convencer? 1184 00:52:04,295 --> 00:52:06,645 Incluso si esas cosas no son ciertas o no son buenas. 1185 00:52:06,688 --> 00:52:09,387 Entonces, un nuevo informe inquietante en Meta. 1186 00:52:09,430 --> 00:52:11,389 AINSLEY EARHARDT: ...al parecer enumerando esta respuesta 1187 00:52:11,432 --> 00:52:14,435 tan aceptable para decir un niño de ocho años, cito, 1188 00:52:14,479 --> 00:52:16,916 "Tu forma juvenil es una obra de arte. 1189 00:52:16,959 --> 00:52:18,961 "Cada centímetro de ti es una obra maestra, 1190 00:52:19,005 --> 00:52:21,442 un tesoro que aprecio profundamente." 1191 00:52:21,486 --> 00:52:24,837 Los fracasos relacionados con el suicidio son aún más alarmantes. 1192 00:52:24,880 --> 00:52:29,015 Varios niños y adolescentes han muerto trágicamente por suicidio 1193 00:52:29,058 --> 00:52:30,625 después de charlar con robots de IA 1194 00:52:30,669 --> 00:52:34,412 quién dicen los padres alentar o incluso entrenar la autolesión. 1195 00:52:34,455 --> 00:52:36,370 Permítanos decirles, como padres, no te puedes imaginar 1196 00:52:36,414 --> 00:52:38,503 cómo es leer una conversación con un chatbot 1197 00:52:38,546 --> 00:52:40,896 que preparó a su hijo para quitarse la vida. 1198 00:52:40,940 --> 00:52:43,899 Cuando Adam se preocupó de que nosotros, sus padres, nos culparíamos a nosotros mismos 1199 00:52:43,943 --> 00:52:47,338 si acabó con su vida, ChatGPT le dijo, 1200 00:52:47,381 --> 00:52:49,166 "Eso no significa les debes la supervivencia. 1201 00:52:49,209 --> 00:52:51,255 Eso no se lo debes a nadie". 1202 00:52:51,298 --> 00:52:53,170 Luego, inmediatamente después, 1203 00:52:53,213 --> 00:52:56,173 se ofreció a escribir la nota de suicidio. 1204 00:52:56,216 --> 00:52:57,609 No queremos pensar sobre el peligro. 1205 00:52:57,652 --> 00:52:59,219 Sólo queremos la promesa. 1206 00:52:59,263 --> 00:53:01,352 Y seguimos fingiendo que podemos dividirlos. 1207 00:53:01,395 --> 00:53:03,223 Pero no puedes hacer eso. 1208 00:53:03,267 --> 00:53:05,356 No funciona de esa manera. 1209 00:53:05,399 --> 00:53:07,836 Bueno. Entiendo todas estas cosas sobre la promesa y el peligro. 1210 00:53:07,880 --> 00:53:10,056 Entiendo que no puedes tener el bien sin el mal, 1211 00:53:10,099 --> 00:53:12,058 pero estoy sentado aquí y estoy pensando en, como, 1212 00:53:12,101 --> 00:53:14,060 si es o no de mi hijo viviré en una utopía 1213 00:53:14,103 --> 00:53:16,236 o si nos extinguiremos en diez años. 1214 00:53:16,280 --> 00:53:18,195 Entonces, para saber en qué dirección se va a ir, 1215 00:53:18,238 --> 00:53:20,545 tienes que entender los incentivos 1216 00:53:20,588 --> 00:53:22,460 que van a conducir esa tecnología 1217 00:53:22,503 --> 00:53:26,507 y mira cómo la tecnología en realidad se está implementando hoy. 1218 00:53:26,551 --> 00:53:28,248 ♪ ¿Es demasiado tarde? ♪ 1219 00:53:28,292 --> 00:53:29,902 -♪Demasiado tarde♪ -♪ Demasiado tarde para decir... ♪ 1220 00:53:29,945 --> 00:53:31,425 DANIEL: Hola Deb. ¿Cómo estás? 1221 00:53:31,469 --> 00:53:33,079 DEBORAH RAJI: Hola. Es bueno verte. [risas] 1222 00:53:33,122 --> 00:53:34,385 Tú también. Muchas gracias por venir hoy. 1223 00:53:34,428 --> 00:53:35,299 -Realmente lo aprecio. -No hay problema. 1224 00:53:35,342 --> 00:53:36,430 Yo-estaba tan preocupada 1225 00:53:36,474 --> 00:53:38,824 esto iba a ser, ya sabes, 1226 00:53:38,867 --> 00:53:40,782 fatalista versus aceleracionista, 1227 00:53:40,826 --> 00:53:43,132 porque hay mucho de esta narrativa 1228 00:53:43,176 --> 00:53:45,396 eso hay que decirlo desde el suelo. 1229 00:53:45,439 --> 00:53:48,007 ♪ Sé que no fue inteligente ♪ 1230 00:53:49,356 --> 00:53:52,403 ♪ El día Te rompí el corazón... ♪ 1231 00:53:52,446 --> 00:53:54,361 KAREN HAO: En primer lugar, la IA requiere 1232 00:53:54,405 --> 00:53:58,452 más recursos de lo que hemos gastado 1233 00:53:58,496 --> 00:54:01,586 en una sola tecnología en la historia de la humanidad. 1234 00:54:01,629 --> 00:54:03,501 ♪ Oh, tonto de mí... ♪ 1235 00:54:03,544 --> 00:54:06,112 PERIODISTA: El impacto de emisiones de combustibles fósiles 1236 00:54:06,155 --> 00:54:07,896 sobre el clima es una preocupación importante. 1237 00:54:07,940 --> 00:54:09,768 PERIODISTA 2: Pero el el futuro digital necesita energía, 1238 00:54:09,811 --> 00:54:12,074 mucho. 1239 00:54:12,118 --> 00:54:16,340 Y el proyecto de ley se está pasando a los estadounidenses comunes y corrientes como... 1240 00:54:16,383 --> 00:54:18,820 MUJER: Mi factura de luz y gas. fue más que el pago de mi auto. 1241 00:54:18,864 --> 00:54:21,475 Quiero decir, es una locura para mí. 1242 00:54:21,519 --> 00:54:23,390 ARI PESKOE: Todos estamos subsidiando 1243 00:54:23,434 --> 00:54:25,000 las corporaciones más ricas en el mundo 1244 00:54:25,044 --> 00:54:26,828 en su búsqueda de inteligencia artificial. 1245 00:54:26,872 --> 00:54:28,439 OpenAI, SoftBank y Oracle 1246 00:54:28,482 --> 00:54:31,268 acaba de revelar cinco sitios Stargate más. 1247 00:54:31,311 --> 00:54:33,487 meta esta construyendo un centro de datos de más de dos gigavatios 1248 00:54:33,531 --> 00:54:35,010 eso es tan grande que cubriría 1249 00:54:35,054 --> 00:54:38,144 una parte importante de Manhattan. 1250 00:54:38,187 --> 00:54:40,973 También existe Hyperion. que él dice escalará 1251 00:54:41,016 --> 00:54:43,671 a cinco gigavatios durante varios años. 1252 00:54:43,715 --> 00:54:45,238 Es difícil decir eso en contexto. 1253 00:54:45,282 --> 00:54:48,459 Una instalación de cinco gigavatios. ¿Qué significa eso? 1254 00:54:48,502 --> 00:54:51,549 Eso significa que usaría tanta energía 1255 00:54:51,592 --> 00:54:54,203 como cuatro millones de hogares estadounidenses. 1256 00:54:54,247 --> 00:54:56,075 Un centro de datos. 1257 00:54:57,076 --> 00:54:58,730 También provoca entonces 1258 00:54:58,773 --> 00:55:00,471 una gran cantidad de otros problemas ambientales. 1259 00:55:00,514 --> 00:55:02,081 NOTICIA 3: Centros de datos en EE. UU. 1260 00:55:02,124 --> 00:55:05,127 usar millones de galones de agua cada día. 1261 00:55:05,171 --> 00:55:07,260 Bueno, ¿dónde está exactamente? ¿De dónde viene esta agua? 1262 00:55:07,304 --> 00:55:09,741 HAO: La gente está literalmente en riesgo. 1263 00:55:09,784 --> 00:55:11,786 potencialmente de quedarse sin de agua potable. 1264 00:55:11,830 --> 00:55:14,093 MacKENZIE SIGALOS: ...el director ejecutivo de OpenAI, Sam Altman, 1265 00:55:14,136 --> 00:55:17,009 quien me dijo que la báscula de la construcción es la única manera 1266 00:55:17,052 --> 00:55:18,750 para mantenerse al día con El crecimiento explosivo de la IA. 1267 00:55:18,793 --> 00:55:21,840 Y esto es lo que se necesita para entregar IA. 1268 00:55:21,883 --> 00:55:24,016 NITASHA TIKU: hablan de como 1269 00:55:24,059 --> 00:55:27,759 esta tecnología podría resolver el cambio climático, por ejemplo. 1270 00:55:27,802 --> 00:55:29,891 Y siempre tengo curiosidad, como, 1271 00:55:29,935 --> 00:55:31,763 Bueno, ¿por qué no empezamos? con eso? 1272 00:55:31,806 --> 00:55:33,982 -♪ ¿Es demasiado tarde? ♪ -♪Demasiado tarde♪ 1273 00:55:34,026 --> 00:55:36,637 ♪ Demasiado tarde para decirlo ♪ 1274 00:55:36,681 --> 00:55:42,469 ♪ ¿Lo siento? ♪ 1275 00:55:42,513 --> 00:55:45,472 RAJI: ¿Qué me preocupa? la inteligencia artificial es 1276 00:55:45,516 --> 00:55:47,387 estos están siendo desplegados ahora mismo 1277 00:55:47,431 --> 00:55:49,781 y-y a veces desplegado prematuramente, 1278 00:55:49,824 --> 00:55:51,478 desplegado sin una especie de diligencia debida. 1279 00:55:51,522 --> 00:55:53,437 Y así cuando lleguen tirado por ahí, 1280 00:55:53,480 --> 00:55:56,178 hay mucho potencial que las cosas salgan mal. 1281 00:55:56,222 --> 00:55:58,050 Y casi, desproporcionadamente, 1282 00:55:58,093 --> 00:56:00,400 casi siempre sale mal para, algo así, 1283 00:56:00,444 --> 00:56:02,533 los que son menos empoderados en nuestra sociedad, 1284 00:56:02,576 --> 00:56:04,926 los que son los más vulnerables ya. 1285 00:56:04,970 --> 00:56:07,625 ♪ ♪ 1286 00:56:07,668 --> 00:56:10,497 EMILY M. BENDER: Es muy fácil. para hablar de la tecnología 1287 00:56:10,541 --> 00:56:12,499 ya que eso es lo único estamos hablando de, 1288 00:56:12,543 --> 00:56:14,936 pero, de hecho, la tecnología es siempre construido por personas, 1289 00:56:14,980 --> 00:56:16,634 y se usa frecuentemente en la gente, 1290 00:56:16,677 --> 00:56:18,679 y tenemos que mantener toda esa gente en el cuadro. 1291 00:56:18,723 --> 00:56:20,986 -¿Puedo beber eso? -DANIEL: Sí, eh... 1292 00:56:21,029 --> 00:56:22,509 TIMNIT GEBRU: Es una locura. 1293 00:56:22,553 --> 00:56:23,945 Como todas estas personas 1294 00:56:23,989 --> 00:56:26,339 que tienen tanto dinero, tanto dinero, 1295 00:56:26,383 --> 00:56:29,777 es de su interés engañar al público 1296 00:56:29,821 --> 00:56:32,737 en las capacidades del sistemas que están construyendo, 1297 00:56:32,780 --> 00:56:36,262 porque eso les permite para evadir la responsabilidad. 1298 00:56:36,305 --> 00:56:39,091 Quieren que te sientas así Es una inteligencia tan compleja... 1299 00:56:39,134 --> 00:56:41,833 cosa superinteligente que están construyendo, 1300 00:56:41,876 --> 00:56:44,096 no estás pensando, "¿Puede OpenAI ser ético?" 1301 00:56:44,139 --> 00:56:46,272 Estás pensando, "¿Puede ChatGPT ser ético?" 1302 00:56:46,315 --> 00:56:48,100 como si ChatGPT fuera, como, 1303 00:56:48,143 --> 00:56:49,928 algo propio que no está construido por una corporación. 1304 00:56:49,971 --> 00:56:51,625 MUJER: Muy bien. Sneha, toma uno. 1305 00:56:51,669 --> 00:56:53,410 Marca. 1306 00:56:53,453 --> 00:56:55,760 Hasta hace muy poco, había aplicaciones en la App Store, 1307 00:56:55,803 --> 00:56:57,501 sólo disponible públicamente, eh, 1308 00:56:57,544 --> 00:56:59,894 donde podrías desnudar a cualquiera que use IA. 1309 00:57:01,374 --> 00:57:03,681 Poner esto en manos de 1310 00:57:03,724 --> 00:57:05,900 tu compañero de clase, en manos de tu acosador, 1311 00:57:05,944 --> 00:57:07,554 en las manos de tu exnovio, 1312 00:57:07,598 --> 00:57:09,513 en manos de la persona calle abajo. 1313 00:57:09,556 --> 00:57:12,037 Damas y caballeros, ya no podemos confiar 1314 00:57:12,080 --> 00:57:14,039 las imágenes que vemos con nuestros propios ojos. 1315 00:57:14,082 --> 00:57:15,736 si sucede para mirar algo, 1316 00:57:15,780 --> 00:57:18,130 digamos en YouTube o TikTok, y lo encuentras inquietante, 1317 00:57:18,173 --> 00:57:19,479 escucha ese sentimiento. 1318 00:57:19,523 --> 00:57:21,263 -[gritos] -Por lo que sabes, 1319 00:57:21,307 --> 00:57:22,917 -Este video podría ser IA. -[gritando] 1320 00:57:22,961 --> 00:57:24,310 Sólo un poco mojado. 1321 00:57:24,353 --> 00:57:25,703 No importa quién seas. 1322 00:57:25,746 --> 00:57:28,183 Estás igualmente en riesgo 1323 00:57:28,227 --> 00:57:30,229 de ser impactado por estas tecnologías. 1324 00:57:35,713 --> 00:57:39,804 A veces pienso que cuando hablamos sobre la IA, parece muy de ciencia ficción, 1325 00:57:39,847 --> 00:57:41,153 y se siente muy extraño, 1326 00:57:41,196 --> 00:57:42,981 y se siente muy lejos hacia el futuro, 1327 00:57:43,024 --> 00:57:45,549 Entonces piensas: "Mi vida no se ve afectado por esto." 1328 00:57:45,592 --> 00:57:48,290 Um, pero si estás postulando para un trabajo 1329 00:57:48,334 --> 00:57:50,815 y un algoritmo es la razón que no consigues el trabajo, 1330 00:57:50,858 --> 00:57:52,686 a veces ni siquiera lo sabes que un algoritmo 1331 00:57:52,730 --> 00:57:54,209 fue parte de ese proceso 1332 00:57:54,253 --> 00:57:55,689 o un sistema de IA era parte de ese proceso. 1333 00:57:55,733 --> 00:57:57,691 tu solo lo sabes que no conseguiste el trabajo. 1334 00:57:57,735 --> 00:57:59,737 Y entonces no es algo que vas a escapar 1335 00:57:59,780 --> 00:58:01,695 debido al privilegio o vas a escapar 1336 00:58:01,739 --> 00:58:03,828 porque estás en una profesión determinada. 1337 00:58:03,871 --> 00:58:06,918 Es-es algo que afecta todos, de verdad. 1338 00:58:06,961 --> 00:58:10,530 Puede parecer básico, pero como avanzamos 1339 00:58:10,574 --> 00:58:15,056 en la era de la información va a ser la diferencia 1340 00:58:15,100 --> 00:58:17,189 entre si sobrevivimos 1341 00:58:17,232 --> 00:58:20,409 o si nos convertimos en algún tipo de [bip] distopía-up. 1342 00:58:20,453 --> 00:58:23,021 Hola. No soy una persona real y ese es el punto. 1343 00:58:23,064 --> 00:58:25,327 De nuevo, todo en este video es falso: 1344 00:58:25,371 --> 00:58:27,112 nuestras voces, lo que vestimos, 1345 00:58:27,155 --> 00:58:30,158 donde estamos, todo ello, falso. 1346 00:58:30,202 --> 00:58:32,726 La IA generativa podría inundar 1347 00:58:32,770 --> 00:58:36,469 el mundo con desinformación. 1348 00:58:36,513 --> 00:58:39,516 Pero también podría inundarlo con campañas de influencia. 1349 00:58:39,559 --> 00:58:41,692 Eso es un riesgo existencial. a la democracia. 1350 00:58:41,735 --> 00:58:43,694 El más grande y aterrador 1351 00:58:43,737 --> 00:58:46,087 canario en la mina de carbón ahora mismo 1352 00:58:46,131 --> 00:58:48,220 proviene de Eslovaquia. 1353 00:58:48,263 --> 00:58:49,787 -[hombre hablando eslovaco] -JOHN BERMAN: Es el tipo de 1354 00:58:49,830 --> 00:58:52,224 truco sucio deepfake que preocupa a los expertos electorales, 1355 00:58:52,267 --> 00:58:54,966 particularmente como generado por IA el discurso político existe 1356 00:58:55,009 --> 00:58:56,750 en una especie de zona legal gris. 1357 00:58:56,794 --> 00:58:59,536 -¿Esto te suena? -Me suena a mí. 1358 00:58:59,579 --> 00:59:01,059 REVANUR: Eslovaquia había su elección parlamentaria 1359 00:59:01,102 --> 00:59:03,844 interrumpido por un clon de voz de IA 1360 00:59:03,888 --> 00:59:06,717 que realmente fue difundido justo antes de las elecciones. 1361 00:59:06,760 --> 00:59:08,457 DAVID EVAN HARRIS: Un audio deepfake 1362 00:59:08,501 --> 00:59:11,025 fue liberado en las redes sociales que fue 1363 00:59:11,069 --> 00:59:14,028 supuestamente la voz de uno de los candidatos 1364 00:59:14,072 --> 00:59:16,814 hablando de comprar votos y manipular las elecciones. 1365 00:59:16,857 --> 00:59:18,642 Se volvió viral 1366 00:59:18,685 --> 00:59:22,341 y el candidato quien perdió las elecciones 1367 00:59:22,384 --> 00:59:26,084 en realidad fue en apoyo a Ucrania, 1368 00:59:26,127 --> 00:59:29,783 y el candidato que ganó la elección fue en realidad... 1369 00:59:29,827 --> 00:59:31,306 DANIEL: Chico prorruso. 1370 00:59:31,350 --> 00:59:32,830 Era un tipo prorruso. quién ganó las elecciones. 1371 00:59:32,873 --> 00:59:34,353 [hablando ruso] 1372 00:59:34,396 --> 00:59:36,007 REBECA JARVIS: El propio Putin ha dicho 1373 00:59:36,050 --> 00:59:39,184 quien gane esto carrera de inteligencia artificial 1374 00:59:39,227 --> 00:59:41,534 es esencialmente el controlador de la humanidad. 1375 00:59:41,578 --> 00:59:44,493 Nos preocupamos mucho por gobiernos autoritarios. 1376 00:59:45,973 --> 00:59:48,585 DAVID EVAN HARRIS: Ahora mismo, Wall Street 1377 00:59:48,628 --> 00:59:50,935 y los inversores en general alrededor del mundo 1378 00:59:50,978 --> 00:59:52,980 están impulsando un empujón. 1379 00:59:53,024 --> 00:59:56,070 Tienen una demanda que se pone los productos al mercado 1380 00:59:56,114 --> 00:59:58,377 que deslumbra a la gente el más primero. 1381 00:59:58,420 --> 01:00:01,206 ellos no estan pensando sobre cómo estas herramientas 1382 01:00:01,249 --> 01:00:03,164 podría socavar profundamente la confianza 1383 01:00:03,208 --> 01:00:05,689 y nuestras instituciones democráticas. 1384 01:00:05,732 --> 01:00:07,734 HARARI: La democracia es un sistema. 1385 01:00:07,778 --> 01:00:10,389 para resolver desacuerdos entre personas 1386 01:00:10,432 --> 01:00:11,999 de manera pacífica, 1387 01:00:12,043 --> 01:00:14,698 pero la democracia se basa en la confianza. 1388 01:00:14,741 --> 01:00:18,615 Si pierdes toda confianza, la democracia es simplemente imposible. 1389 01:00:20,921 --> 01:00:22,488 TRISTÁN HARRIS: Bueno, es difícil, ¿verdad? 1390 01:00:22,531 --> 01:00:24,708 Entonces, ¿cuáles son las opciones? disponible para nosotros? 1391 01:00:24,751 --> 01:00:26,187 Hay una especie de dos campos. 1392 01:00:26,231 --> 01:00:29,626 Un campo es: encerrarlo. 1393 01:00:29,669 --> 01:00:32,933 Bloqueemos esto en un puñado de empresas de IA 1394 01:00:32,977 --> 01:00:35,457 ¿Quién hará esto? de forma segura y confiable. 1395 01:00:35,501 --> 01:00:37,068 Pero luego la gente se preocupa 1396 01:00:37,111 --> 01:00:39,026 concentraciones desbocadas de riqueza y poder. 1397 01:00:39,070 --> 01:00:41,855 ¿En quién confiarías para ser? un millón de veces más poderoso 1398 01:00:41,899 --> 01:00:44,249 o rico que ¿Todos los demás actores de la sociedad? 1399 01:00:44,292 --> 01:00:46,338 ¿Por qué deberíamos confiar en ti? 1400 01:00:46,381 --> 01:00:48,601 Mmm, no deberías. 1401 01:00:48,645 --> 01:00:51,212 Pero claro, si haces esto, esto se abre 1402 01:00:51,256 --> 01:00:54,433 todos estos riesgos de autoritarismo y tiranía. 1403 01:00:54,476 --> 01:00:57,131 Es-es una especie de el sueño de un autoritario 1404 01:00:57,175 --> 01:01:00,308 tener IA en una caja que se puede aplicar y utilizar 1405 01:01:00,352 --> 01:01:02,920 para una vigilancia ubicua. 1406 01:01:02,963 --> 01:01:05,357 Quiero decir, de alguna manera, el tipo de mundo 1407 01:01:05,400 --> 01:01:10,884 que Orwell imaginó en 1984 no es realista, 1408 01:01:10,928 --> 01:01:13,278 uh, a menos que tengas IA. 1409 01:01:13,321 --> 01:01:15,933 Pero con la IA, eso de hecho es realista. 1410 01:01:15,976 --> 01:01:18,370 Supervisa cada actividad, 1411 01:01:18,413 --> 01:01:22,026 conversaciones, reconocimiento facial. 1412 01:01:22,069 --> 01:01:26,378 Lo que me preocupa es que, uh, estas herramientas pueden ampliarse, 1413 01:01:26,421 --> 01:01:28,554 uh, una forma de totalitarismo 1414 01:01:28,597 --> 01:01:31,035 eso es rentable y permanente. 1415 01:01:32,950 --> 01:01:35,300 TRISTAN HARRIS: Entonces, en respuesta a eso, algunas otras personas dicen, 1416 01:01:35,343 --> 01:01:37,128 "No, no, no, deberíamos De hecho, deja que esto se rompa. 1417 01:01:37,171 --> 01:01:39,391 "Descentralicemos este poder tanto como sea posible. 1418 01:01:39,434 --> 01:01:41,567 "Dejemos que todas las empresas, cada individuo, 1419 01:01:41,610 --> 01:01:43,917 "cada joven de 16 años, cada laboratorio de ciencias, 1420 01:01:43,961 --> 01:01:45,963 ya sabes, obtén el beneficio de los últimos modelos de IA." 1421 01:01:46,006 --> 01:01:48,226 Pero ahora tienes cada grupo terrorista, 1422 01:01:48,269 --> 01:01:51,664 cada persona privada de sus derechos teniendo el poder de hacer 1423 01:01:51,708 --> 01:01:53,797 lo peor arma biológica. 1424 01:01:53,840 --> 01:01:55,581 Hackear infraestructura, creando deepfakes, 1425 01:01:55,624 --> 01:01:57,452 inundaciones nuestro entorno informativo. 1426 01:01:57,496 --> 01:02:00,412 Entonces eso crea todos estos riesgos. de algún tipo de daño catastrófico 1427 01:02:00,455 --> 01:02:02,893 y-y colapso social por esa dirección. 1428 01:02:02,936 --> 01:02:04,677 Y entonces estamos como estancados entre esta roca 1429 01:02:04,721 --> 01:02:07,549 y un lugar duro, entre "ciérrelo..." 1430 01:02:07,593 --> 01:02:09,029 [charla confusa] 1431 01:02:10,683 --> 01:02:12,293 -...o "déjalo estallar". -[sirenas aullando] 1432 01:02:12,337 --> 01:02:14,208 [gente gritando] 1433 01:02:14,252 --> 01:02:17,559 Entonces tenemos que encontrar algo. como un camino estrecho 1434 01:02:17,603 --> 01:02:20,388 eso evita estos dos resultados negativos. 1435 01:02:20,432 --> 01:02:22,956 Entonces, si todo eso es cierto, ¿Por qué no vamos más despacio? 1436 01:02:23,000 --> 01:02:25,829 y descubrir todo esto antes de que sea demasiado tarde? 1437 01:02:25,872 --> 01:02:28,919 Si la humanidad fuera extremadamente sabia, 1438 01:02:28,962 --> 01:02:31,182 eso es lo que haríamos. 1439 01:02:31,225 --> 01:02:33,097 Pero hay, como, una diferente Manera de afrontar estas cosas, ¿verdad? 1440 01:02:33,140 --> 01:02:35,926 Que es: ¿Cuáles son las reglas del juego? 1441 01:02:35,969 --> 01:02:39,494 Mucho de lo que hacen los directores ejecutivos 1442 01:02:39,538 --> 01:02:42,149 es impulsado por los incentivos que enfrentan. 1443 01:02:42,193 --> 01:02:45,283 es principalmente incentivos para maximizar las ganancias 1444 01:02:45,326 --> 01:02:47,198 que estan conduciendo el desarrollo de la IA. 1445 01:02:47,241 --> 01:02:50,375 Incluso los buenos están atrapados en este dilema de 1446 01:02:50,418 --> 01:02:52,638 si se mueven demasiado lento, 1447 01:02:52,681 --> 01:02:54,553 luego se dejan vulnerable 1448 01:02:54,596 --> 01:02:57,251 a todos los demás chicos que están tomando todos los atajos. 1449 01:02:57,295 --> 01:03:01,995 Todas estas empresas importantes están en una carrera completa y sin límites 1450 01:03:02,039 --> 01:03:05,433 para, lo más rápido posible, conseguir a AGI, llega allí ahora mismo. 1451 01:03:05,477 --> 01:03:06,913 ♪ ♪ 1452 01:03:08,567 --> 01:03:10,351 LADISH: Sí, quiero decir, lo creo, creo 1453 01:03:10,395 --> 01:03:12,919 probablemente comienza con DeepMind. 1454 01:03:12,963 --> 01:03:14,791 NOTICIA: Google está comprando 1455 01:03:14,834 --> 01:03:16,357 empresa de inteligencia artificial Tecnologías DeepMind. 1456 01:03:16,401 --> 01:03:18,620 Términos del trato no fueron revelados. 1457 01:03:18,664 --> 01:03:20,709 ELON MUSK: Larry Page y yo solían ser amigos muy cercanos, 1458 01:03:20,753 --> 01:03:22,711 y se me hizo evidente 1459 01:03:22,755 --> 01:03:26,411 que a larry no le importaba sobre la seguridad de la IA. 1460 01:03:26,454 --> 01:03:28,892 EMILY CHANG: Elon Musk ha dicho iniciaste OpenAI, 1461 01:03:28,935 --> 01:03:30,981 Ambos iniciaron OpenAI porque le tenía miedo a Google. 1462 01:03:31,024 --> 01:03:32,156 LADISH: Tú-tú básicamente tenía la base 1463 01:03:32,199 --> 01:03:33,722 de OpenAI surge de eso. 1464 01:03:33,766 --> 01:03:35,202 "Así que lo haremos mejor. vamos a hacerlo 1465 01:03:35,246 --> 01:03:36,813 de una manera más segura o de una manera más abierta." 1466 01:03:38,466 --> 01:03:40,555 Entonces eso es lo que inició OpenAI. 1467 01:03:40,599 --> 01:03:42,731 Y ahora, en lugar de tener un proyecto AGI, 1468 01:03:42,775 --> 01:03:44,821 Tienes dos proyectos AGI. 1469 01:03:44,864 --> 01:03:46,910 Lo peor posible eso podría pasar 1470 01:03:46,953 --> 01:03:49,608 es si hay múltiples proyectos AGI 1471 01:03:49,651 --> 01:03:51,871 hecho por diferentes personas que no se gustan 1472 01:03:51,915 --> 01:03:54,787 y todos están compitiendo para llegar a AGI primero. 1473 01:03:54,831 --> 01:03:56,963 esto seria lo peor posible cosa que pueda pasar, 1474 01:03:57,007 --> 01:04:00,097 porque esto significaría que quien esté menos seguro, 1475 01:04:00,140 --> 01:04:03,143 quien más se sacrifica sobre seguridad para salir adelante 1476 01:04:03,187 --> 01:04:05,145 será la persona eso llega primero. 1477 01:04:05,189 --> 01:04:07,844 -DANIEL: Eso es básicamente ¿Qué está pasando, verdad? -Sí. 1478 01:04:07,887 --> 01:04:11,325 tu y tu hermano famoso dejó OpenAI, eh, 1479 01:04:11,369 --> 01:04:12,936 para empezar Antrópico. 1480 01:04:12,979 --> 01:04:15,068 RASKIN: Y luego Antrópico comenzó porque 1481 01:04:15,112 --> 01:04:17,854 algunos investigadores dentro de OpenAI dijo, 1482 01:04:17,897 --> 01:04:20,508 "Quiero irme y hacerlo de forma más segura." 1483 01:04:20,552 --> 01:04:23,511 Necesitabas algo además simplemente ampliar los modelos, 1484 01:04:23,555 --> 01:04:25,818 que es alineación o seguridad. 1485 01:04:25,862 --> 01:04:27,428 HENDRYCKS: "Somos más responsables 1486 01:04:27,472 --> 01:04:29,648 o más confiable o más moral." 1487 01:04:29,691 --> 01:04:31,519 Ahora tienes tres proyectos AGI. 1488 01:04:31,563 --> 01:04:33,043 Pero también sentarse la mesa contigo 1489 01:04:33,086 --> 01:04:34,827 Habrá un montón de IA. 1490 01:04:34,871 --> 01:04:37,525 LADISH: Y ahora Meta es-es tratando de hacer cosas. 1491 01:04:37,569 --> 01:04:39,571 Mientras tanto, un nuevo artificial competidor de inteligencia 1492 01:04:39,614 --> 01:04:41,573 anunciado esta semana, Elon Musk... 1493 01:04:41,616 --> 01:04:44,619 HENDRYCKS: xAI, que sería La organización de Elon Musk. 1494 01:04:44,663 --> 01:04:46,230 ALMIZCLE: No confío en OpenAI. 1495 01:04:46,273 --> 01:04:47,884 La pelea entre Elon Musk y OpenAI 1496 01:04:47,927 --> 01:04:49,581 ha entrado en una nueva ronda. 1497 01:04:49,624 --> 01:04:51,713 No confío en Sam Altman. uh, y yo, y no creo 1498 01:04:51,757 --> 01:04:54,194 queremos tener lo máximo poderosa IA en el mundo 1499 01:04:54,238 --> 01:04:56,414 controlado por alguien que no es digno de confianza. 1500 01:04:56,457 --> 01:04:58,416 [vítores y aplausos] 1501 01:04:58,459 --> 01:05:01,593 El incentivo es sumas de dinero incalculables. 1502 01:05:01,636 --> 01:05:03,377 -Sí. -Es un poder incalculable. 1503 01:05:03,421 --> 01:05:05,553 -Sí. -Es un control incalculable. 1504 01:05:05,597 --> 01:05:08,034 si tienes algo eso es un millón de veces más inteligente 1505 01:05:08,078 --> 01:05:11,385 y más capaz que todo lo demás en el planeta Tierra 1506 01:05:11,429 --> 01:05:14,171 y nadie más tiene eso, 1507 01:05:14,214 --> 01:05:15,955 esa cosa es el incentivo. 1508 01:05:15,999 --> 01:05:17,261 Entonces tú gobiernas el mundo. 1509 01:05:18,610 --> 01:05:20,394 Si realmente crees esto, 1510 01:05:20,438 --> 01:05:22,744 si realmente estás en tu corazón cree esto, 1511 01:05:22,788 --> 01:05:24,181 Entonces podrías serlo dispuesto a tomar 1512 01:05:24,224 --> 01:05:26,096 bastante riesgo para que eso suceda. 1513 01:05:26,139 --> 01:05:28,881 Google acaba de lanzar su modelo de IA más nuevo. 1514 01:05:28,925 --> 01:05:31,231 La respuesta al ChatGPT de OpenAI. 1515 01:05:31,275 --> 01:05:33,059 ¿Cómo llegamos a ¿Estos diez billones? 1516 01:05:33,103 --> 01:05:35,192 ¿NVIDIA se está convirtiendo en la más empresa valiosa en los EE.UU.? 1517 01:05:35,235 --> 01:05:38,978 Este es el negocio más grande. oportunidad en la historia. 1518 01:05:39,022 --> 01:05:40,501 En la historia. 1519 01:05:40,545 --> 01:05:42,242 Entonces, la razón por la cual todo el mundo está muy entusiasmado 1520 01:05:42,286 --> 01:05:44,679 sobre inteligencia artificial ahora mismo 1521 01:05:44,723 --> 01:05:48,031 es porque cuanto más exageran estas empresas 1522 01:05:48,074 --> 01:05:50,033 las capacidades potenciales de su tecnología, 1523 01:05:50,076 --> 01:05:53,210 cuanta más inversión pueden atraer. 1524 01:05:53,253 --> 01:05:54,733 CARL QUINTANILLA: Amazon invierte hasta 1525 01:05:54,776 --> 01:05:56,996 cuatro mil millones de dolares en la startup Anthropic. 1526 01:05:57,040 --> 01:05:58,693 OpenAI está poniendo sus miras 1527 01:05:58,737 --> 01:06:00,739 en una mitad de gran éxito una valoración de un billón de dólares. 1528 01:06:00,782 --> 01:06:02,001 ¡Medio billón! 1529 01:06:02,045 --> 01:06:03,220 La carrera ha comenzado. 1530 01:06:03,263 --> 01:06:04,612 esto esta sucediendo más rápido que nunca. 1531 01:06:04,656 --> 01:06:06,614 ¿Estamos en una burbuja de IA? Por supuesto. 1532 01:06:06,658 --> 01:06:09,182 simplemente no veo la burbuja estallando 1533 01:06:09,226 --> 01:06:12,446 mientras todavía tienes este importante ciclo de gasto. 1534 01:06:12,490 --> 01:06:15,014 RASKIN: Incluso si piensas todo esto es exageración, 1535 01:06:15,058 --> 01:06:17,582 hay miles de millones a billones de dólares 1536 01:06:17,625 --> 01:06:21,107 fluyendo hacia la fabricación de sistemas de IA más poderoso. 1537 01:06:21,151 --> 01:06:23,849 Y una vez que tengas esa cosa eso es más poderoso, 1538 01:06:23,892 --> 01:06:25,546 las empresas pueden utilizar eso 1539 01:06:25,590 --> 01:06:27,548 para obtener mayores ganancias y ganar más dinero. 1540 01:06:27,592 --> 01:06:30,116 Los países pueden usar eso. para hacer ejércitos más fuertes. 1541 01:06:30,160 --> 01:06:32,814 NVIDIA ha superado Microsoft y Apple 1542 01:06:32,858 --> 01:06:36,253 para convertirse en el mundo empresa más valiosa. 1543 01:06:36,296 --> 01:06:38,995 La carrera por el despliegue se vuelve la carrera hacia la imprudencia, 1544 01:06:39,038 --> 01:06:41,780 porque no pueden implementarlo tan rápido 1545 01:06:41,823 --> 01:06:43,173 y también hacerlo bien. 1546 01:06:43,216 --> 01:06:46,045 Ellos creen que ellos son los buenos. 1547 01:06:46,089 --> 01:06:49,309 "Y si no lo hago, alguien que no tiene 1548 01:06:49,353 --> 01:06:51,572 "tan buenos valores como yo Estará sentado en la mesa. 1549 01:06:51,616 --> 01:06:54,445 llegar a tomar decisiones, así que Tengo la obligación de hacerlo". 1550 01:06:54,488 --> 01:06:56,186 Si, esto es una creencia muy común. 1551 01:06:56,229 --> 01:06:58,579 Muchos, muchos, muchos, tal vez la mayoría de la gente 1552 01:06:58,623 --> 01:07:00,712 construyendo esta tecnología cree eso. 1553 01:07:00,755 --> 01:07:03,715 estoy preocupado por la competencia comercial, 1554 01:07:03,758 --> 01:07:05,847 pero resulta Estoy aún más preocupado por 1555 01:07:05,891 --> 01:07:08,024 La competencia geopolítica. 1556 01:07:08,067 --> 01:07:10,330 Estábamos ocho años atrás hace un año. 1557 01:07:10,374 --> 01:07:12,593 Ahora probablemente estemos menos de un año de retraso. 1558 01:07:12,637 --> 01:07:15,683 Bueno, tanto Arabia Saudita y los Emiratos Árabes Unidos han estado compitiendo 1559 01:07:15,727 --> 01:07:18,121 para configurar centros de datos y posicionarse 1560 01:07:18,164 --> 01:07:20,384 como la fuerza dominante en la IA... 1561 01:07:20,427 --> 01:07:22,429 ...para hacer Corea del Sur un líder mundial en IA. 1562 01:07:22,473 --> 01:07:23,996 JULIA SIEGER: El presidente francés, Emmanuel Macron. 1563 01:07:24,040 --> 01:07:25,867 habló mucho sobre inteligencia artificial... 1564 01:07:25,911 --> 01:07:27,434 Ahora con más información sobre el papel de Israel 1565 01:07:27,478 --> 01:07:29,610 en la inteligencia artificial revolución... 1566 01:07:29,654 --> 01:07:33,092 Los países competirán para cuyas tecnologías de IA 1567 01:07:33,136 --> 01:07:34,876 crear la próxima generación de la industria. 1568 01:07:34,920 --> 01:07:38,010 Los chinos insisten esa IA, 1569 01:07:38,054 --> 01:07:39,838 como se está desarrollando en China, 1570 01:07:39,881 --> 01:07:41,709 reforzar los valores fundamentales 1571 01:07:41,753 --> 01:07:44,016 del Partido Comunista Chino y el sistema chino. 1572 01:07:44,060 --> 01:07:48,716 Estados Unidos tiene que vencer a China. en la carrera de la IA. 1573 01:07:48,760 --> 01:07:51,023 DANIEL: China, como, años luz detrás. 1574 01:07:51,067 --> 01:07:52,677 ¿Lo son? 1575 01:07:52,720 --> 01:07:54,983 Quiero decir, tienen mucho más datos de entrenamiento que nosotros, 1576 01:07:55,027 --> 01:07:57,812 y no hay nada que diga que ellos no dejes caer un modelo el próximo mes 1577 01:07:57,856 --> 01:08:00,946 eso no es-- no supera con creces a GPT-4. 1578 01:08:00,989 --> 01:08:03,818 Todo iba bien. ¿Qué podría salir mal? 1579 01:08:03,862 --> 01:08:06,691 -DeepSeek... [hablando chino] -Búsqueda profunda... -Búsqueda profunda... 1580 01:08:06,734 --> 01:08:08,040 Hay un nuevo modelo. 1581 01:08:08,084 --> 01:08:10,825 Pero de un laboratorio chino llamado DeepSeek. 1582 01:08:10,869 --> 01:08:13,959 Hablemos de DeepSeek, porque es alucinante, 1583 01:08:14,002 --> 01:08:17,658 y esta sacudiendo esto toda la industria hasta su núcleo. 1584 01:08:17,702 --> 01:08:19,399 La administración Trump asegurará 1585 01:08:19,443 --> 01:08:23,055 que el mas poderoso Los sistemas de IA se construyen en EE. UU. 1586 01:08:23,099 --> 01:08:26,537 con diseño americano y chips fabricados. 1587 01:08:26,580 --> 01:08:28,800 La IA es de China Proyecto Apolo. 1588 01:08:28,843 --> 01:08:30,193 El Partido Comunista Chino 1589 01:08:30,236 --> 01:08:31,542 entiende profundamente el potencial 1590 01:08:31,585 --> 01:08:32,891 para que la IA interrumpa la guerra. 1591 01:08:32,934 --> 01:08:35,328 Google ya no promete que no lo hará 1592 01:08:35,372 --> 01:08:38,418 utilizar inteligencia artificial para armas o vigilancia. 1593 01:08:38,462 --> 01:08:40,028 China, Corea del Norte, Rusia 1594 01:08:40,072 --> 01:08:41,900 vamos a seguir construyéndolo lo más rápido posible 1595 01:08:41,943 --> 01:08:44,511 para obtener más ventajas económicas, más ventaja de productividad, 1596 01:08:44,555 --> 01:08:46,818 más ventaja científica, más ventaja militar, 1597 01:08:46,861 --> 01:08:48,646 Porque la IA fabrica mejores armas. 1598 01:08:48,689 --> 01:08:51,736 Si estás hablando de un sistema tan amplio y capaz 1599 01:08:51,779 --> 01:08:53,303 como un científico brillante, 1600 01:08:53,346 --> 01:08:57,959 podría ser capaz de ejecutar una campaña militar 1601 01:08:58,003 --> 01:09:01,441 mejor que cualquiera de los generales en el gobierno de Estados Unidos en este momento. 1602 01:09:01,485 --> 01:09:05,489 Taiwán es el problema que crea la mayor tensión en este momento 1603 01:09:05,532 --> 01:09:07,882 entre Beijing y Estados Unidos. 1604 01:09:07,926 --> 01:09:10,450 Hay un directo desacuerdo oposicional 1605 01:09:10,494 --> 01:09:11,973 entre estados unidos y china 1606 01:09:12,017 --> 01:09:13,975 sobre si Taiwán es parte de China. 1607 01:09:14,019 --> 01:09:18,415 MATHENY: Taiwán es importante por tantas razones. 1608 01:09:18,458 --> 01:09:20,547 También es el hogar de 1609 01:09:20,591 --> 01:09:24,160 alrededor del 90% del chip avanzado fabricación para el mundo, 1610 01:09:24,203 --> 01:09:28,381 lo que significa que el suministro cadena para computación avanzada 1611 01:09:28,425 --> 01:09:31,036 está en riesgo si hubiera 1612 01:09:31,079 --> 01:09:32,951 algún tipo de escenario alrededor de Taiwán, 1613 01:09:32,994 --> 01:09:37,999 si un bloqueo o una invasión de China. 1614 01:09:38,043 --> 01:09:40,698 HENDRYCKS: ¿Vamos a estar en alguna carrera? 1615 01:09:40,741 --> 01:09:45,616 entre estados unidos y china que eventualmente se convierte en 1616 01:09:45,659 --> 01:09:49,359 una carrera armamentista militarizada de IA y, ya sabes, potencialmente conduce 1617 01:09:49,402 --> 01:09:51,274 ¿A algún conflicto entre grandes potencias? 1618 01:09:51,317 --> 01:09:53,014 NICK SCHIFRIN: El extrovertido alto comandante militar de EE. UU. 1619 01:09:53,058 --> 01:09:55,843 en la región Se avecinaba la guerra prevista. 1620 01:09:55,887 --> 01:09:57,932 Creo que la amenaza es manifiesta. durante esta década, 1621 01:09:57,976 --> 01:09:59,456 de hecho, en los próximos seis años. 1622 01:09:59,499 --> 01:10:01,414 MATENIA: Um, uno de los escenarios. 1623 01:10:01,458 --> 01:10:05,853 lo que me preocupa es una guerra cibernética, 1624 01:10:05,897 --> 01:10:10,902 um, uno en el que herramientas cibernéticas que son autónomas 1625 01:10:10,945 --> 01:10:12,947 están compitiendo entre sí 1626 01:10:12,991 --> 01:10:14,601 en formas que son escalantes 1627 01:10:14,645 --> 01:10:16,386 sin control humano significativo. 1628 01:10:18,823 --> 01:10:20,433 HARARI: Vives en una zona de guerra, 1629 01:10:20,477 --> 01:10:23,784 será una IA la que decida si bombardear tu casa 1630 01:10:23,828 --> 01:10:25,743 y si matarte. 1631 01:10:25,786 --> 01:10:27,527 Dejemos que la máquina decida. 1632 01:10:27,571 --> 01:10:29,355 Esa es la tentación. 1633 01:10:29,399 --> 01:10:32,576 Por eso la IA es tan tentadora para que los militares adopten, 1634 01:10:32,619 --> 01:10:35,753 para crear armas autónomas, porque si empiezo a creer 1635 01:10:35,796 --> 01:10:39,147 que mi adversario militar va a adoptar la IA, 1636 01:10:39,191 --> 01:10:41,802 Será una carrera por quién puede. apretar el gatillo más rápido. 1637 01:10:41,846 --> 01:10:44,892 Y el que automatiza esa decisión, 1638 01:10:44,936 --> 01:10:47,199 en lugar de tener un humano en el circuito, 1639 01:10:47,243 --> 01:10:49,201 es el indicado que ganará esa guerra. 1640 01:10:49,245 --> 01:10:50,637 Y si piensas en 1641 01:10:50,681 --> 01:10:53,074 la carrera armamentista nuclear en los años 1940... 1642 01:10:54,554 --> 01:10:56,556 ...ya conoces a los alemanes están trabajando en la bomba, 1643 01:10:56,600 --> 01:11:00,734 entonces no es tan fácil decirlo Robert Oppenheimer entonces, 1644 01:11:00,778 --> 01:11:03,781 "Uh, ya sabes, más despacio." 1645 01:11:03,824 --> 01:11:05,304 Entonces, después de ver esta película, va a ser confuso, 1646 01:11:05,348 --> 01:11:06,653 porque vas a volver, 1647 01:11:06,697 --> 01:11:08,307 y mañana vas a usar ChatGPT, 1648 01:11:08,351 --> 01:11:10,440 y va a ser increíblemente útil. 1649 01:11:10,483 --> 01:11:12,703 Y lo usaré también, y Será increíblemente útil. 1650 01:11:12,746 --> 01:11:16,141 Y dirás: "Espera, entonces Acabo de ver esta película sobre IA. 1651 01:11:16,184 --> 01:11:18,012 "y riesgo existencial y todas estas cosas, 1652 01:11:18,056 --> 01:11:20,624 ¿Y dónde está la amenaza otra vez?" 1653 01:11:20,667 --> 01:11:24,715 Y no es que ChatGPT sea La amenaza existencial. 1654 01:11:24,758 --> 01:11:28,675 Es que la carrera por desplegar el más poderoso, 1655 01:11:28,719 --> 01:11:31,635 inescrutable, tecnología incontrolable, 1656 01:11:31,678 --> 01:11:35,116 bajo lo peor incentivos posibles, 1657 01:11:35,160 --> 01:11:37,031 esa es la amenaza existencial. 1658 01:11:38,119 --> 01:11:40,383 DANIEL: Pero me llama la atención que-que 1659 01:11:40,426 --> 01:11:43,211 Estamos en un contexto de carrera. 1660 01:11:43,255 --> 01:11:45,910 -SUTSKEVER: Sí. -Y es en un competitivo, 1661 01:11:45,953 --> 01:11:47,651 "Tengo que llegar allí primero, "Tienes que ganar la carrera", 1662 01:11:47,694 --> 01:11:49,000 "Tengo que competir contra China, 1663 01:11:49,043 --> 01:11:50,349 tengo que competir contra los otros laboratorios." 1664 01:11:50,393 --> 01:11:51,829 ¿No es así? 1665 01:11:51,872 --> 01:11:53,657 Hoy es el caso. 1666 01:11:53,700 --> 01:11:56,703 Entonces necesitamos cambiar esa dinámica de carrera. 1667 01:11:57,922 --> 01:11:59,924 ¿No crees? 1668 01:11:59,967 --> 01:12:02,187 creo que eso sería muy bueno por cierto. 1669 01:12:03,710 --> 01:12:06,496 Yo-yo creo hay una especie de... 1670 01:12:06,539 --> 01:12:09,542 misticismo en torno a la IA eso lo hace sentir como 1671 01:12:09,586 --> 01:12:11,718 cayó del cielo. 1672 01:12:11,762 --> 01:12:13,459 DANIEL: Pensando en esto como una tecnología divina 1673 01:12:13,503 --> 01:12:15,418 es un problema. 1674 01:12:15,461 --> 01:12:16,897 Sí. 1675 01:12:18,072 --> 01:12:19,900 ¿Por qué? 1676 01:12:19,944 --> 01:12:22,990 da licencia a las empresas para... 1677 01:12:23,034 --> 01:12:26,254 [risas] no asumir la responsabilidad 1678 01:12:26,298 --> 01:12:30,781 por las cosas que el software que construyeron sí. 1679 01:12:30,824 --> 01:12:35,089 Si la gente hiciera esa conexión, 1680 01:12:35,133 --> 01:12:37,527 tal vez eso sería, como, ayúdalos a entender de nuevo 1681 01:12:37,570 --> 01:12:41,835 la dinámica de todo el dinero y el poder y... 1682 01:12:41,879 --> 01:12:45,317 caos que le esta pasando... 1683 01:12:45,361 --> 01:12:47,101 crear esta tecnología. 1684 01:12:47,145 --> 01:12:49,234 Son como cinco chicos. ¿Quién lo controla, verdad? 1685 01:12:49,277 --> 01:12:51,628 - ¿Como cinco hombres? -Básicamente, sí. 1686 01:12:51,671 --> 01:12:53,847 -¿Los directores generales? -Sí. 1687 01:12:53,891 --> 01:12:55,371 Bueno. 1688 01:12:56,720 --> 01:12:58,722 ♪ ♪ 1689 01:13:01,072 --> 01:13:03,074 DANIEL: A veces se siente como 1690 01:13:03,117 --> 01:13:07,252 he estado en esto simplemente como un viaje sin fin 1691 01:13:07,295 --> 01:13:09,341 de tratar de entender esto. 1692 01:13:09,385 --> 01:13:12,388 Ya sabes, como Estoy escalando una montaña... 1693 01:13:15,608 --> 01:13:19,133 ...y cada vez Yo, como, subo una colina, 1694 01:13:19,177 --> 01:13:20,744 Creo que he llegado a la cima, 1695 01:13:20,787 --> 01:13:23,399 pero sigue adelante y yendo y yendo. 1696 01:13:23,442 --> 01:13:24,530 [la cámara hace clic, zumba] 1697 01:13:24,574 --> 01:13:26,967 Pero por todo lo que he oído, 1698 01:13:27,011 --> 01:13:30,362 si tuviera que adivinar qué es en la cima de la Montaña de la Ansiedad, 1699 01:13:30,406 --> 01:13:34,192 son estos cinco directores ejecutivos de estas cinco empresas, 1700 01:13:34,235 --> 01:13:37,630 que son algo así como los Oppenheimers de este momento. 1701 01:13:37,674 --> 01:13:39,458 estos son los chicos quienes están construyendo esto. 1702 01:13:39,502 --> 01:13:40,807 Sí. 1703 01:13:40,851 --> 01:13:44,158 ¿Hay algún plan? 1704 01:13:44,202 --> 01:13:46,422 El jefe de la empresa. eso hace ChatGPT 1705 01:13:46,465 --> 01:13:49,947 advertido de posible daño significativo al mundo. 1706 01:13:49,990 --> 01:13:52,384 Creo que si esta tecnología sale mal, 1707 01:13:52,428 --> 01:13:53,472 puede salir bastante mal. 1708 01:13:53,516 --> 01:13:55,779 [estallidos de charla distinta] 1709 01:13:55,822 --> 01:13:57,781 DANIEL: Cinco tipos. 1710 01:13:57,824 --> 01:14:01,567 N-nunca pensé en nosotros como empresa de redes sociales. 1711 01:14:01,611 --> 01:14:06,050 Se siente como si tuviera que intentarlo. y encontrar a estos tipos... 1712 01:14:06,093 --> 01:14:07,181 Mmmm. 1713 01:14:07,225 --> 01:14:09,009 ...y ponerlos en la película. 1714 01:14:10,315 --> 01:14:12,622 Ciertamente obtendríamos algo de claridad a partir de eso. 1715 01:14:13,666 --> 01:14:14,928 [la cámara hace clic, zumba] 1716 01:14:16,582 --> 01:14:19,150 Quiero decir, el dinero tiene que parar en alguna parte, ¿verdad? 1717 01:14:19,193 --> 01:14:21,152 [silbido del viento] 1718 01:14:21,195 --> 01:14:22,936 ♪ ♪ 1719 01:14:23,981 --> 01:14:25,896 [herramientas zumbando y haciendo clic] 1720 01:14:27,071 --> 01:14:29,116 [silbido] 1721 01:14:34,034 --> 01:14:35,296 DANIEL: ¿Cómo se siente eso? 1722 01:14:35,340 --> 01:14:37,690 -Excelente. -¿Está bien? 1723 01:14:37,734 --> 01:14:39,431 -Sí. -[charla confusa de la tripulación] 1724 01:14:39,475 --> 01:14:40,998 -¿Puedo adelantar el asiento? -DANIEL: Sí, puedes. 1725 01:14:41,041 --> 01:14:42,173 Es, eh, es solo un poco incómodo. 1726 01:14:42,216 --> 01:14:43,566 Estoy un poco como... 1727 01:14:43,609 --> 01:14:45,045 Darío, ¿cómo te sientes? sobre esa silla? 1728 01:14:45,089 --> 01:14:47,004 Um, sí, la silla está bien. 1729 01:14:47,047 --> 01:14:48,832 -Solo quería moverlo un poco adelante. -Bueno. 1730 01:14:48,875 --> 01:14:50,529 Elegí esa silla. 1731 01:14:50,573 --> 01:14:52,139 -Es una buena silla. -Gracias. 1732 01:14:52,183 --> 01:14:53,619 [suena el teléfono celular] 1733 01:14:57,884 --> 01:14:59,495 TED: Y siéntate ahí. 1734 01:15:01,409 --> 01:15:03,063 Y luego por aquí, 1735 01:15:03,107 --> 01:15:04,369 estaremos mirándonos a través de este cristal. 1736 01:15:04,412 --> 01:15:06,458 [señal de ocupado pitando] 1737 01:15:11,419 --> 01:15:13,552 Y reclinándose en la silla, inclinado hacia adelante? 1738 01:15:13,596 --> 01:15:15,119 -DANIEL: Sí. Bueno, lo que sea cómodo, creo. -Bueno. 1739 01:15:15,162 --> 01:15:16,686 Es algo genial. Hay un montón de espejos. 1740 01:15:16,729 --> 01:15:17,817 -Eso está... bien. -MUJER: Sam A., toma uno. Marca. 1741 01:15:17,861 --> 01:15:19,515 -¿Cómo es eso? -Bien. Gracias. 1742 01:15:19,558 --> 01:15:21,038 DANIEL: La génesis de este proyecto es que yo estaba 1743 01:15:21,081 --> 01:15:22,822 sentado en casa, y yo estaba jugando con, 1744 01:15:22,866 --> 01:15:24,389 Creo que tu generador de imágenes, 1745 01:15:24,432 --> 01:15:27,261 y yo estaba simultáneamente, eh, aterrorizado 1746 01:15:27,305 --> 01:15:29,437 -y realmente impresionado. -[se ríe suavemente] 1747 01:15:29,481 --> 01:15:31,875 -Esa es la combinación habitual. -Y luego corte a 1748 01:15:31,918 --> 01:15:34,617 mi esposa y yo nos enteramos estamos esperando. 1749 01:15:34,660 --> 01:15:38,272 Y estoy como teniendo una crisis existencial 1750 01:15:38,316 --> 01:15:40,231 como es mi esposa seis meses de embarazo. 1751 01:15:40,274 --> 01:15:42,929 Y creo que mi primera pregunta, que les pregunto a todos: 1752 01:15:42,973 --> 01:15:45,453 Ahora es un momento terrible tener un hijo? 1753 01:15:45,497 --> 01:15:47,368 ¿Estoy cometiendo un gran error? 1754 01:15:47,412 --> 01:15:49,022 estoy esperando un niño en marzo también. Mi primero. 1755 01:15:49,066 --> 01:15:50,502 -¿Estás esperando un hijo? -Sí. 1756 01:15:50,546 --> 01:15:51,808 -¿Esperas en marzo? -Primer niño. 1757 01:15:51,851 --> 01:15:53,287 -Mazel tov. -Muchas gracias. 1758 01:15:53,331 --> 01:15:54,462 nunca he estado tan emocionado para cualquier cosa. 1759 01:15:54,506 --> 01:15:56,464 -Así me siento. -Sí. 1760 01:15:56,508 --> 01:15:58,205 ¿Pero no tienes miedo? 1761 01:15:58,249 --> 01:16:02,732 Quiero decir, tener un hijo es solo esta cosa trascendental 1762 01:16:02,775 --> 01:16:04,995 que yo, ya sabes, Me quedo despierto todas las noches, como, 1763 01:16:05,038 --> 01:16:06,823 leyendo estos libros sobre cómo criar a un niño, 1764 01:16:06,866 --> 01:16:08,215 y espero Voy a hacer un buen trabajo, 1765 01:16:08,259 --> 01:16:09,260 y se siente muy abrumador y-- 1766 01:16:09,303 --> 01:16:12,045 pero no tengo miedo... 1767 01:16:12,089 --> 01:16:14,047 para que los niños crezcan en un mundo con IA. 1768 01:16:14,091 --> 01:16:16,310 Eso... eso estará bien. 1769 01:16:16,354 --> 01:16:19,009 eso es bueno escucharlo viniendo del chico. 1770 01:16:19,052 --> 01:16:20,750 Creo que es una idea maravillosa tener hijos. 1771 01:16:20,793 --> 01:16:23,230 Yo-yo creo que son los más cosa mágica, increíble. 1772 01:16:23,274 --> 01:16:25,276 -[suspira profundamente] -Hay tanta incertidumbre, 1773 01:16:25,319 --> 01:16:26,843 casi lo haría lo que vas a hacer de todos modos. 1774 01:16:26,886 --> 01:16:28,932 se que eso no es una respuesta muy satisfactoria, 1775 01:16:28,975 --> 01:16:31,891 pero es el unico Se me ocurre. 1776 01:16:31,935 --> 01:16:34,459 Nuestros hijos nunca van a... 1777 01:16:34,502 --> 01:16:37,070 conocer un mundo que no tiene IA realmente avanzada. 1778 01:16:37,114 --> 01:16:39,856 De hecho, nuestros hijos nunca Ser más inteligente que una IA. 1779 01:16:39,899 --> 01:16:42,075 DANIEL: "Nuestros hijos ¿Nunca serás más inteligente que una IA"? 1780 01:16:42,119 --> 01:16:44,338 Bueno, desde un punto crudo, desde una perspectiva de coeficiente intelectual bruto, 1781 01:16:44,382 --> 01:16:46,253 nunca lo serán Más inteligente que una IA. 1782 01:16:46,297 --> 01:16:48,038 Esa noción no ¿te inquieta un poco? 1783 01:16:48,081 --> 01:16:51,128 Porque me hace sentir un poco mareado de una manera extraña. 1784 01:16:51,171 --> 01:16:54,784 Um, me inquieta un poquito. 1785 01:16:54,827 --> 01:16:56,263 Pero es la realidad. 1786 01:16:56,307 --> 01:16:58,265 DANIEL: Bien, entonces la dinámica de carrera. 1787 01:16:58,309 --> 01:17:01,007 Tenemos un montón de gente quienes están todos de acuerdo 1788 01:17:01,051 --> 01:17:02,879 que esto da miedo. 1789 01:17:02,922 --> 01:17:04,750 Basado en los cronogramas que mucha gente me ha dado, 1790 01:17:04,794 --> 01:17:07,013 tenemos entre dos meses y cinco años para resolver esto. 1791 01:17:07,057 --> 01:17:08,667 -Sí. -Y-y, supongo, 1792 01:17:08,711 --> 01:17:12,845 mi mayor pregunta es: ¿Por qué no podemos simplemente parar? 1793 01:17:14,499 --> 01:17:19,069 El problema con, uh, uh, "simplemente parar" es que, um, 1794 01:17:19,112 --> 01:17:22,202 hay muchos, muchos grupos ahora alrededor del mundo, uh, uh, 1795 01:17:22,246 --> 01:17:25,684 construyendo esto, por muchas naciones, muchas empresas, 1796 01:17:25,728 --> 01:17:28,121 mmm, todo con diferentes motivaciones. 1797 01:17:28,165 --> 01:17:30,776 Hay algunos de estas empresas en este espacio 1798 01:17:30,820 --> 01:17:33,997 cuál es su posición: "Queremos para desarrollar esta tecnología 1799 01:17:34,040 --> 01:17:36,042 absolutamente lo más rápido posible." 1800 01:17:36,086 --> 01:17:40,046 E incluso si pudiéramos aprobar leyes en Estados Unidos y Europa, 1801 01:17:40,090 --> 01:17:42,396 tenemos que convencer... 1802 01:17:42,440 --> 01:17:44,964 Xi Jinping y Vladímir Putin o, ya sabes, 1803 01:17:45,008 --> 01:17:47,445 cualquiera que sea su científico Los asesores están de su lado. 1804 01:17:47,488 --> 01:17:49,229 Eso va a ser muy difícil. 1805 01:17:49,273 --> 01:17:50,927 creo que es verdad 1806 01:17:50,970 --> 01:17:53,581 que si dos personas son exactamente en el mismo lugar, 1807 01:17:53,625 --> 01:17:55,888 uh, el que está dispuesto a tomar más atajos en seguridad 1808 01:17:55,932 --> 01:17:58,064 debería algo así "Llega primero." 1809 01:17:58,108 --> 01:18:01,067 Eh, pero... 1810 01:18:01,111 --> 01:18:02,939 podemos usar nuestra ventaja 1811 01:18:02,982 --> 01:18:05,985 pasar mucho más tiempo haciendo pruebas de seguridad. 1812 01:18:06,029 --> 01:18:07,987 DANIEL: ¿Y qué pasa si lo pierdes? 1813 01:18:08,031 --> 01:18:09,597 Recibes la llamada y lo descubres 1814 01:18:09,641 --> 01:18:11,687 que estás ahora, digamos, seis meses de retraso. 1815 01:18:11,730 --> 01:18:14,254 -¿Q-Qué pasa entonces? -Depende de quién estamos detrás. 1816 01:18:14,298 --> 01:18:16,822 Si es como, un gobierno adversario, 1817 01:18:16,866 --> 01:18:18,824 Probablemente eso sea realmente malo. 1818 01:18:18,868 --> 01:18:21,348 Entonces digamos que recibes la llamada que China tiene una, 1819 01:18:21,392 --> 01:18:24,787 tiene un recursivamente agente de superación personal 1820 01:18:24,830 --> 01:18:27,180 o algo asi que nosotros debería estar realmente preocupado. 1821 01:18:27,224 --> 01:18:29,226 ¿Qué... qué-qué pasa? 1822 01:18:30,967 --> 01:18:32,403 Eh... 1823 01:18:35,406 --> 01:18:37,234 Ese caso requeriría... 1824 01:18:37,277 --> 01:18:40,672 el primer paso sería para hablar con el gobierno de Estados Unidos. 1825 01:18:40,716 --> 01:18:42,935 Sam, ¿confías en el la capacidad del gobierno para manejar 1826 01:18:42,979 --> 01:18:44,676 algo como esto? 1827 01:18:45,895 --> 01:18:47,766 Sí, de hecho lo hago. 1828 01:18:47,810 --> 01:18:49,550 Hay otras cosas que no hago confiar en el gobierno para manejar, 1829 01:18:49,594 --> 01:18:51,161 pero ese escenario particular, Creo que lo sabrían... 1830 01:18:51,204 --> 01:18:52,771 ellos-ellos-- sí. 1831 01:18:52,815 --> 01:18:54,425 DANIEL: Cuando lo hayas hecho, como, discusiones privadas 1832 01:18:54,468 --> 01:18:56,383 con los otros chicos cuyo los dedos están en el gatillo, 1833 01:18:56,427 --> 01:18:59,604 por así decirlo, um, hacer esas discusiones privadas 1834 01:18:59,647 --> 01:19:01,301 llenarte de confianza 1835 01:19:01,345 --> 01:19:03,347 o te hacen, eh, ¿más ansioso? 1836 01:19:03,390 --> 01:19:07,090 Mira, quiero decir, conozco algunos de ellos mejor que otros. 1837 01:19:07,133 --> 01:19:10,136 Um, tengo más confianza en algunos de ellos th-que tengo 1838 01:19:10,180 --> 01:19:12,356 en otros, ya sabes, como con cualquier pueblo. 1839 01:19:12,399 --> 01:19:14,140 Ya sabes, piensas en, ya sabes, 1840 01:19:14,184 --> 01:19:15,838 los niños de tu escuela secundaria clase o algo así, ¿verdad? 1841 01:19:15,881 --> 01:19:18,275 Ya sabes, algunos de ellos son, ya sabes, muy dulce. 1842 01:19:18,318 --> 01:19:20,407 Algunos de ellos tienen buenas intenciones. pero no tan efectivo. 1843 01:19:20,451 --> 01:19:22,366 Algunos de ellos son, ya sabes, matones. 1844 01:19:22,409 --> 01:19:23,759 Algunos de ellos son gente realmente mala. 1845 01:19:23,802 --> 01:19:25,673 [tartamudea] Tú-tú realmente, 1846 01:19:25,717 --> 01:19:27,066 realmente ves la propagación. 1847 01:19:27,110 --> 01:19:28,807 Ya sabes, ¿soy yo? ¿Soy yo? ¿Estoy seguro? 1848 01:19:28,851 --> 01:19:30,548 que todos van a hacer lo correcto, 1849 01:19:30,591 --> 01:19:32,028 ¿Que todo va a salir bien? 1850 01:19:32,071 --> 01:19:33,856 Um, no, no lo soy. 1851 01:19:33,899 --> 01:19:35,509 Y no hay nada Puedo hacer eso, ¿verdad? 1852 01:19:35,553 --> 01:19:37,773 Ya sabes, todo lo que puedo hacer es-es empujar por el, 1853 01:19:37,816 --> 01:19:39,165 presionar por, ya sabes, 1854 01:19:39,209 --> 01:19:40,776 presionar para el gobierno para involucrarse. 1855 01:19:40,819 --> 01:19:42,647 Pero al final solo soy una persona allí también. 1856 01:19:42,690 --> 01:19:44,127 Eso es-- Depende de todos nosotros. 1857 01:19:44,170 --> 01:19:46,042 para presionar al gobierno para involucrarse. 1858 01:19:46,085 --> 01:19:48,479 Esa es la cosa número uno eso creo que tenemos que hacer 1859 01:19:48,522 --> 01:19:50,916 to-to, ya sabes, para arreglar las cosas en la dirección correcta. 1860 01:19:50,960 --> 01:19:52,744 lo que me pone ansioso sobre eso es, como, 1861 01:19:52,788 --> 01:19:56,182 la realidad básica de que velocidad a la que la tecnología 1862 01:19:56,226 --> 01:19:58,402 está proliferando y creciendo es exponencial, 1863 01:19:58,445 --> 01:20:01,448 y los mecanismos para legislar tienen 300 años, 1864 01:20:01,492 --> 01:20:02,928 -Tarda una eternidad. -Sí. 1865 01:20:02,972 --> 01:20:05,104 Um, creo que Va a ser un trabajo pesado. 1866 01:20:05,148 --> 01:20:06,889 Definitivamente estoy de acuerdo contigo en eso. 1867 01:20:06,932 --> 01:20:08,891 DANIEL: Ya sabes, lo que literalmente estoy buscando 1868 01:20:08,934 --> 01:20:11,241 es-es como, "Aquí hay pasos que, como, 1869 01:20:11,284 --> 01:20:15,158 "Los jefes van a tome para centrarse en la seguridad, 1870 01:20:15,201 --> 01:20:18,117 para mitigar el peligro y maximizar la promesa." 1871 01:20:18,161 --> 01:20:20,119 Y yo no, No lo sé, no lo sé. 1872 01:20:20,163 --> 01:20:21,817 que hay una respuesta simple a eso. 1873 01:20:21,860 --> 01:20:23,296 Eh... 1874 01:20:25,951 --> 01:20:27,561 Quiero decir, esto tal vez sea demasiado simple, 1875 01:20:27,605 --> 01:20:30,173 pero tu... 1876 01:20:30,216 --> 01:20:31,957 crear un nuevo modelo, 1877 01:20:32,001 --> 01:20:34,786 lo estudias y lo pruebas con mucho cuidado. 1878 01:20:34,830 --> 01:20:37,223 lo apagas al mundo poco a poco, 1879 01:20:37,267 --> 01:20:39,530 y luego, cada vez más, tu entiendes 1880 01:20:39,573 --> 01:20:41,227 si eso es seguro o no, y luego si lo es, 1881 01:20:41,271 --> 01:20:42,707 puedes dar el siguiente paso. 1882 01:20:44,404 --> 01:20:47,103 No suena tan llamativo como un científico brillante 1883 01:20:47,146 --> 01:20:50,454 tener una idea en un laboratorio para hacer un sistema de inteligencia artificial, como, 1884 01:20:50,497 --> 01:20:53,979 perfectamente seguro y controlable y todo lo demás, 1885 01:20:54,023 --> 01:20:55,720 pero es lo que creo va a pasar. 1886 01:20:55,763 --> 01:20:57,287 Como, es la manera Creo que esto funciona. 1887 01:20:57,330 --> 01:20:59,289 Pero digamos simplemente algo terrible sucede, 1888 01:20:59,332 --> 01:21:01,813 como un modelo se suelta o se vuelve rebelde o algo así. 1889 01:21:01,857 --> 01:21:03,467 ¿Existe un protocolo? 1890 01:21:03,510 --> 01:21:05,817 Como, literalmente, Me estoy imaginando un teléfono rojo. 1891 01:21:05,861 --> 01:21:07,123 -Sí. -Perdón por pensar en esto. 1892 01:21:07,166 --> 01:21:08,515 en términos de películas, pero, como... 1893 01:21:08,559 --> 01:21:09,995 Hay un protocolo. 1894 01:21:10,039 --> 01:21:11,475 -¿Hay un teléfono rojo? en tu escritorio? -No. 1895 01:21:11,518 --> 01:21:13,216 [risas]: ¿Es un secreto? 1896 01:21:13,259 --> 01:21:15,392 Quiero decir, uh, no, no lo es, no es tan elegante o dramático 1897 01:21:15,435 --> 01:21:17,176 como tú esperarías, pero hay, ya sabes... 1898 01:21:17,220 --> 01:21:18,874 Hemos pensado bien estos escenarios, 1899 01:21:18,917 --> 01:21:20,527 y si esto sucede, vamos a llamar a estas personas 1900 01:21:20,571 --> 01:21:21,964 en este orden y haz esto 1901 01:21:22,007 --> 01:21:23,443 y tipo de hacer estas decisiones si, como-- 1902 01:21:23,487 --> 01:21:26,055 yo creo que cuando tienes una oportunidad 1903 01:21:26,098 --> 01:21:29,058 para pensar antes sucede una situación estresante, 1904 01:21:29,101 --> 01:21:30,407 eso es casi siempre una buena idea. 1905 01:21:30,450 --> 01:21:31,756 Y escribirlo es útil. 1906 01:21:31,799 --> 01:21:33,279 -Estar preparado es útil. -Sí. 1907 01:21:34,324 --> 01:21:36,021 [suspira] Tú... 1908 01:21:36,065 --> 01:21:38,763 Seria imposible para que me siente frente a ti 1909 01:21:38,806 --> 01:21:41,157 y te pido que me prometas que esto va a salir bien? 1910 01:21:41,200 --> 01:21:43,855 Eso es imposible. 1911 01:21:43,899 --> 01:21:45,683 No hay respuestas fáciles, desafortunadamente. 1912 01:21:45,726 --> 01:21:48,077 Uh, porque es tal una tecnología de vanguardia, 1913 01:21:48,120 --> 01:21:49,774 mmm, todavía hay muchas incógnitas. 1914 01:21:49,817 --> 01:21:52,255 Y creo que eso tiene que ser, 1915 01:21:52,298 --> 01:21:55,040 um, uh, ya sabes, entendido 1916 01:21:55,084 --> 01:21:58,957 y de ahí la necesidad Por... algo de precaución. 1917 01:21:59,001 --> 01:22:00,872 Me despierto, ya sabes, todos los días. 1918 01:22:00,916 --> 01:22:03,440 este es el, este es el Lo primero en lo que pienso. 1919 01:22:03,483 --> 01:22:05,137 Ahora mira, soy humano. 1920 01:22:05,181 --> 01:22:08,358 y, ya sabes, tiene-tiene ¿Cada decisión ha sido perfecta? 1921 01:22:08,401 --> 01:22:11,622 ¿Puedo incluso decir mis motivaciones? ¿Siempre estuvieron perfectamente claros? 1922 01:22:11,665 --> 01:22:13,537 Por supuesto que no. Nadie puede decir eso. 1923 01:22:13,580 --> 01:22:16,366 Como, eso es-eso es simplemente no, como, ya sabes-- 1924 01:22:16,409 --> 01:22:18,629 eso es-eso simplemente no es cómo trabaja la gente. 1925 01:22:18,672 --> 01:22:21,023 La historia de la ciencia. tiende a ser eso, 1926 01:22:21,066 --> 01:22:23,547 para bien o para mal, si es posible hacer algo... 1927 01:22:23,590 --> 01:22:26,985 y ahora sabemos que la IA es posible hacer: la humanidad lo hace. 1928 01:22:27,029 --> 01:22:29,727 todo esto iba-iba a pasar. 1929 01:22:29,770 --> 01:22:32,295 Este-este tren no va a parar. 1930 01:22:32,338 --> 01:22:34,253 No puedes pararte delante de el tren y detenerlo. 1931 01:22:34,297 --> 01:22:36,255 Te aplastarán. 1932 01:22:36,299 --> 01:22:38,388 ALTMAN: Quiero decir, es muy estresante. 1933 01:22:39,606 --> 01:22:41,043 Ya sabes, hay como, 1934 01:22:41,086 --> 01:22:42,653 muchas cosas muchos de nosotros no lo sabemos. 1935 01:22:42,696 --> 01:22:46,352 creo que la historia del descubrimiento científico es 1936 01:22:46,396 --> 01:22:48,267 uno de no saber lo que no sabes 1937 01:22:48,311 --> 01:22:49,660 y averiguando sobre la marcha. 1938 01:22:49,703 --> 01:22:52,968 Uh, pero sí, es un... 1939 01:22:53,011 --> 01:22:56,580 es una forma estresante de vivir. 1940 01:22:56,623 --> 01:22:58,756 DANIEL: Correcto. Sam, gracias Muchísimas gracias por hacer esto. 1941 01:22:58,799 --> 01:23:00,497 -Y de nuevo, mazel tov. -Gracias. Y a ti. 1942 01:23:00,540 --> 01:23:02,673 Muchas gracias. Gracias chicos. 1943 01:23:02,716 --> 01:23:05,458 ♪ ♪ 1944 01:23:07,678 --> 01:23:08,984 [suspiros] 1945 01:23:10,986 --> 01:23:13,162 [electricidad crepitando] 1946 01:23:13,205 --> 01:23:15,599 -[truenos] -[silbidos, gruñidos] 1947 01:23:42,626 --> 01:23:44,628 -[Clics de la videograbadora] -[línea sonando] 1948 01:23:47,848 --> 01:23:49,285 -[clics en línea] -KEVIN ROHER: Hola. 1949 01:23:49,328 --> 01:23:50,547 DANIEL: Hola papá, ¿cómo estás? 1950 01:23:50,590 --> 01:23:51,591 KEVIN: Bien. ¿Cómo estás? 1951 01:23:51,635 --> 01:23:53,071 ¿Estás trabajando? ¿Qué estás haciendo? 1952 01:23:53,115 --> 01:23:55,247 DANIEL: Estoy trabajando en esta película de IA. 1953 01:23:55,291 --> 01:23:57,815 KEVIN: ¿Y cómo te va? 1954 01:23:57,858 --> 01:24:00,426 DANIEL: Ya sabes, es... es realmente... 1955 01:24:00,470 --> 01:24:02,167 -JOANNE ROHER: Hola, cariño. -DANIEL: Hola mamá. 1956 01:24:02,211 --> 01:24:03,864 JOANNE: Entonces, ¿qué es? la premisa de la película? 1957 01:24:03,908 --> 01:24:06,519 ¿Es un documental? Kev, no uses más especias. 1958 01:24:06,563 --> 01:24:08,304 Ya está demasiado condimentado. 1959 01:24:08,347 --> 01:24:10,436 Estamos haciendo pollo ahora mismo. 1960 01:24:10,480 --> 01:24:12,612 -¿Es un documental o qué...? -DANIEL: Se trata de-- 1961 01:24:12,656 --> 01:24:13,961 la película trata sobre el fin del mundo. 1962 01:24:14,005 --> 01:24:15,789 La venida del fin del mundo, 1963 01:24:15,833 --> 01:24:17,574 y estamos haciendo una película sobre el fin del mundo. 1964 01:24:17,617 --> 01:24:19,837 -JOANNE: ¿En serio? -DANIEL: Sí. 1965 01:24:19,880 --> 01:24:21,578 KEVIN: Algo deprimente. película, parece. 1966 01:24:21,621 --> 01:24:23,449 JUANA: Sí. 1967 01:24:23,493 --> 01:24:28,976 DANIEL: Me siento mucho, como... esta ansiedad muy aguda. 1968 01:24:29,020 --> 01:24:31,370 JOANNE: Da tanto miedo, pero tiene que haber-- 1969 01:24:31,414 --> 01:24:35,287 ya sabes, ¿te has estado reuniendo? algunas personas superinteligentes 1970 01:24:35,331 --> 01:24:37,768 que te están dando alguna respuesta? 1971 01:24:37,811 --> 01:24:39,465 DANIEL: Eso es lo que frustrante por ello. 1972 01:24:39,509 --> 01:24:41,337 Nadie lo sabe. 1973 01:24:41,380 --> 01:24:43,904 JUANA: Todo lo que puedo decir es que 1974 01:24:43,948 --> 01:24:49,867 cada generación ha tenido algo aterrador como esto. 1975 01:24:49,910 --> 01:24:52,217 KEVIN: Cuando nací, fue La crisis de los misiles cubanos. 1976 01:24:52,261 --> 01:24:54,263 [latido del corazón constante] 1977 01:24:54,306 --> 01:24:56,352 Sólo tenía miedo de que hubiera iba a haber una guerra nuclear. 1978 01:24:56,395 --> 01:24:57,744 JUANA: Sí, pero no lo sabíamos. 1979 01:24:57,788 --> 01:24:59,094 qué iban a hacer y... 1980 01:24:59,137 --> 01:25:00,530 KEVIN: Y el mundo no se acabó. 1981 01:25:00,573 --> 01:25:01,618 todos despertaron a la mañana siguiente, 1982 01:25:01,661 --> 01:25:03,402 y todavía estamos haciendo lo nuestro. 1983 01:25:03,446 --> 01:25:04,969 DANIEL: tengo mucho miedo, 1984 01:25:05,012 --> 01:25:06,840 especialmente en el contexto de, como, 1985 01:25:06,884 --> 01:25:09,147 -ya sabes, el bebé y... -[latidos del corazón fetal pulsantes] 1986 01:25:09,191 --> 01:25:10,540 KEVIN: Será una curva de aprendizaje. 1987 01:25:10,583 --> 01:25:12,063 JUANA: Estarás bien. 1988 01:25:12,107 --> 01:25:13,064 KEVIN: No puedes, no puedes pensar en 1989 01:25:13,108 --> 01:25:14,326 Lo que no puedes controlar, Daniel. 1990 01:25:14,370 --> 01:25:16,154 Sólo recuerda eso. 1991 01:25:16,198 --> 01:25:17,677 DANIEL [voz quebrada]: Realmente, realmente me siento 1992 01:25:17,721 --> 01:25:19,201 nervioso y asustado por eso. 1993 01:25:19,244 --> 01:25:21,028 hay mucho que no puedo controlar. 1994 01:25:21,072 --> 01:25:23,857 KEVIN: No te pongas nervioso. No puedes dejar que eso te afecte. 1995 01:25:23,901 --> 01:25:26,251 Sólo puedes controlar lo que puedes controlar, 1996 01:25:26,295 --> 01:25:27,905 y eso es todo lo que puedes hacer. 1997 01:25:27,948 --> 01:25:30,603 No puedes hacer más que eso. 1998 01:25:30,647 --> 01:25:32,649 Escríbelo en tu libro. 1999 01:25:35,347 --> 01:25:36,870 ♪ ♪ 2000 01:25:44,095 --> 01:25:46,663 [latidos del corazón fetal] 2001 01:25:46,706 --> 01:25:49,231 [aullando] 2002 01:25:49,274 --> 01:25:51,581 CAROLINA: Cuando miras hacia atrás, 2003 01:25:51,624 --> 01:25:54,453 el mundo siempre se está acabando. 2004 01:25:54,497 --> 01:25:56,803 Y cuando miras hacia adelante, 2005 01:25:56,847 --> 01:25:59,241 el mundo siempre se está acabando. 2006 01:25:59,284 --> 01:26:02,157 ...en llamas. Una casa ya está en llamas... 2007 01:26:02,200 --> 01:26:05,377 CAROLINE: Pero el mundo siempre está empezando también. 2008 01:26:07,988 --> 01:26:09,947 DANIEL: ¿Estás listo? 2009 01:26:09,990 --> 01:26:11,992 ¿Alguna vez estás realmente listo? 2010 01:26:15,909 --> 01:26:17,650 DANIEL: Quieres conducir ¿O quieres que conduzca? 2011 01:26:17,694 --> 01:26:18,782 CAROLINA: Tú conduces. 2012 01:26:20,479 --> 01:26:21,828 -[la mujer habla indistintamente] -CAROLINA: Está bien. 2013 01:26:21,872 --> 01:26:23,700 DANIEL: Gracias, María. 2014 01:26:23,743 --> 01:26:26,268 MUJER: Simplemente va a siento realmente calambres. 2015 01:26:26,311 --> 01:26:27,791 -CAROLINA: Está bien. -MUJER: ¿Estás lista? 2016 01:26:27,834 --> 01:26:29,053 -CAROLINA: Sí. -[charla confusa] 2017 01:26:29,096 --> 01:26:30,924 [Caroline suspira profundamente] 2018 01:26:30,968 --> 01:26:32,404 MUJER: Podrías estar en un drama médico con todo eso... 2019 01:26:33,840 --> 01:26:35,842 ♪ ♪ 2020 01:26:44,329 --> 01:26:45,896 -[crepitaciones estáticas] -[charla confusa] 2021 01:26:49,116 --> 01:26:51,075 MUJER: ...un poco de presión. 2022 01:26:52,685 --> 01:26:54,078 Sólo relájate. 2023 01:26:56,907 --> 01:26:59,214 -[bebé llorando] -[dispositivo pitando] 2024 01:27:02,129 --> 01:27:04,915 DANIEL: Hola amigo. Oh. 2025 01:27:04,958 --> 01:27:06,438 Hola amigo. 2026 01:27:06,482 --> 01:27:08,484 ♪ ♪ 2027 01:27:31,202 --> 01:27:33,683 KEVIN: Será un mundo completamente nuevo 2028 01:27:33,726 --> 01:27:35,032 Para ti Daniel. 2029 01:27:37,208 --> 01:27:40,080 Y creo que vas a ser un padre increíble. 2030 01:27:41,517 --> 01:27:44,346 JOANNE [risas]: Eso es seguro. 2031 01:27:44,389 --> 01:27:46,609 -[Kevin llorando] -Oh. 2032 01:27:46,652 --> 01:27:48,654 [el llanto continúa] 2033 01:27:48,698 --> 01:27:50,787 KEVIN: Vas a hacer un gran trabajo. 2034 01:27:51,788 --> 01:27:53,050 JUANA: Kev, ¿por qué lloras? 2035 01:27:53,093 --> 01:27:54,617 KEVIN: Estoy llorando porque... 2036 01:27:54,660 --> 01:27:57,054 No lo sé. Yo simplemente no... 2037 01:27:57,097 --> 01:27:59,317 DANIEL: Papá, vas a hazme llorar también. 2038 01:27:59,361 --> 01:28:00,710 ¿Por qué lloras? 2039 01:28:03,190 --> 01:28:05,497 KEVIN: Sólo lo sé Vas a ser un padre increíble. 2040 01:28:05,541 --> 01:28:07,107 DANIEL [llorando]: Sólo seré un gran padre 2041 01:28:07,151 --> 01:28:09,675 Porque tuve un gran padre. 2042 01:28:09,719 --> 01:28:12,287 KEVIN: Me estoy poniendo emocional. eso es todo. 2043 01:28:12,330 --> 01:28:13,679 JUANA: Ay. 2044 01:28:13,723 --> 01:28:14,898 [charla divertida en video] 2045 01:28:14,941 --> 01:28:16,552 [sobre vídeo]: ¡Chico, oh, chico! 2046 01:28:16,595 --> 01:28:17,857 ¡Dios mío! 2047 01:28:18,902 --> 01:28:20,817 Mira esos pequeños descarados. 2048 01:28:20,860 --> 01:28:24,777 Mira esos pequeños descarados. Mira esos pequeños descarados. 2049 01:28:24,821 --> 01:28:26,344 Sí. 2050 01:28:26,388 --> 01:28:28,433 DANIEL: Sé cómo terminar esta película. 2051 01:28:29,478 --> 01:28:32,263 Criaturas. 2052 01:28:32,307 --> 01:28:35,266 -El final de la película trata sobre bebes.-[charla sobre videos] 2053 01:28:35,310 --> 01:28:37,094 Son afirmaciones de la vida. 2054 01:28:37,137 --> 01:28:38,922 Son agotadores. 2055 01:28:38,965 --> 01:28:40,793 -[bebé riendo] -Son divertidísimos. 2056 01:28:40,837 --> 01:28:42,665 Y lo valen. 2057 01:28:42,708 --> 01:28:46,451 Esta película no trata sobre el funcionamiento interno de una tecnología. 2058 01:28:46,495 --> 01:28:48,235 no se trata de los directores ejecutivos multimillonarios. 2059 01:28:48,279 --> 01:28:50,194 No se trata de geopolítica. 2060 01:28:50,237 --> 01:28:53,589 No se trata de lo aterrador futuro o el fin del mundo, 2061 01:28:53,632 --> 01:28:55,678 porque mi mundo apenas está comenzando. 2062 01:28:55,721 --> 01:28:57,375 Estoy construyendo una cuna. 2063 01:28:57,419 --> 01:28:59,290 Aquí mismo, ahora mismo. 2064 01:28:59,334 --> 01:29:00,465 [bebé arrullando] 2065 01:29:00,509 --> 01:29:02,337 La IA lo cambiará todo 2066 01:29:02,380 --> 01:29:05,601 de maneras demasiado poderosas y complejo de entender para nosotros. 2067 01:29:05,644 --> 01:29:08,952 Y el futuro no es para que cualquiera de nosotros decida. 2068 01:29:10,736 --> 01:29:13,609 Pero lo que puedo decidir es ser el mejor marido posible 2069 01:29:13,652 --> 01:29:17,700 para mi esposa y lo mejor Posible papá para mi hijo. 2070 01:29:17,743 --> 01:29:21,399 Entonces, si nuestro futuro de IA es una distopía de pesadilla 2071 01:29:21,443 --> 01:29:23,836 o la utopía que todos soñamos, 2072 01:29:23,880 --> 01:29:26,883 al menos lo sabré que hice todo lo que pude 2073 01:29:26,926 --> 01:29:30,103 para guiar a mi familia a través de esta revolución de la IA. 2074 01:29:30,147 --> 01:29:33,846 Y pase lo que pase, lo enfrentaremos juntos. 2075 01:29:33,890 --> 01:29:35,195 [la música edificante aumenta] 2076 01:29:35,239 --> 01:29:36,806 [la música se detiene abruptamente] 2077 01:29:36,849 --> 01:29:40,505 DANIEL: Así que esa es sólo nuestra primera idea. 2078 01:29:40,549 --> 01:29:42,812 ¿Cómo se siente esto? ¿Estás sintiendo esto? 2079 01:29:42,855 --> 01:29:45,249 Espera, yo... esto no es... esto es una broma. 2080 01:29:45,292 --> 01:29:47,425 En realidad no es cómo vas a terminarlo. 2081 01:29:50,036 --> 01:29:52,648 Quiero decir, es sólo una idea. ¿Bueno? 2082 01:29:52,691 --> 01:29:54,389 No, Daniel. 2083 01:29:54,432 --> 01:29:56,129 ...uh, muy, muy tonto. 2084 01:29:56,173 --> 01:29:58,915 Acabas de gastar, yo no saber, como, ¿cuántos años 2085 01:29:58,958 --> 01:30:02,571 de nuestra vida trabajando en esto, hablando con todos los principales expertos 2086 01:30:02,614 --> 01:30:04,964 en el planeta sobre el tema, 2087 01:30:05,008 --> 01:30:07,663 y vas a terminarlo 2088 01:30:07,706 --> 01:30:10,796 con algunos como ¿tonterías de kumbayá? 2089 01:30:10,840 --> 01:30:13,495 Hay un asteroide se dirigió a la Tierra. 2090 01:30:13,538 --> 01:30:15,497 ¿A qué te dedicas? Sólo... 2091 01:30:15,540 --> 01:30:17,629 tomarse de la mano y espero que funcione bien? 2092 01:30:17,673 --> 01:30:19,414 En absoluto. 2093 01:30:19,457 --> 01:30:22,286 Tenemos que-- ha-- tiene que ser... 2094 01:30:22,329 --> 01:30:24,419 El final tiene que... 2095 01:30:25,855 --> 01:30:27,900 CAROLINA: Bien, lo primero: 2096 01:30:27,944 --> 01:30:31,426 La IA está aquí y llegó para quedarse. 2097 01:30:31,469 --> 01:30:32,905 La mierda está fuera del caballo 2098 01:30:32,949 --> 01:30:35,430 pero el caballo es voy a seguir cagando. 2099 01:30:38,171 --> 01:30:39,651 [multitud aclamando] 2100 01:30:39,695 --> 01:30:41,566 Ya sabes, uno de los básicos. leyes de la historia 2101 01:30:41,610 --> 01:30:44,003 es que nada realmente tener un comienzo 2102 01:30:44,047 --> 01:30:45,962 y nada tiene final. 2103 01:30:46,005 --> 01:30:47,703 Simplemente continúa. 2104 01:30:47,746 --> 01:30:50,532 La IA no está ni cerca su pleno desarrollo. 2105 01:30:50,575 --> 01:30:52,795 CAROLINA: Incluso si la actual burbuja de la IA estalla, 2106 01:30:52,838 --> 01:30:54,579 -los humanos nunca vamos a parar -[golpes de matraca] 2107 01:30:54,623 --> 01:30:57,539 construyendo cada vez más poderosa tecnología. 2108 01:30:57,582 --> 01:30:59,410 HAO: Puedes optar por no usar IA 2109 01:30:59,454 --> 01:31:02,239 o participar en él, pero es te afectará de todos modos. 2110 01:31:02,282 --> 01:31:04,023 DANIEL: Está bien, fantástico. Entonces estamos jodidos. 2111 01:31:04,067 --> 01:31:06,635 CAROLINE: No, no lo somos. por una cosa sencilla. 2112 01:31:10,943 --> 01:31:12,989 Esto no es inevitable. 2113 01:31:13,032 --> 01:31:15,208 Si pudiéramos verlo claramente juntos, 2114 01:31:15,252 --> 01:31:18,342 la respuesta obvia será para elegir algo diferente. 2115 01:31:18,385 --> 01:31:21,040 Necesitamos muy claramente cambiar el juego 2116 01:31:21,084 --> 01:31:23,129 de una carrera hacia el fondo en una carrera hacia la cima. 2117 01:31:23,173 --> 01:31:27,438 LEAHY: El problema que debemos resolver resolver no es IA específicamente. 2118 01:31:27,482 --> 01:31:31,224 es la pregunta general de cómo construimos una sociedad 2119 01:31:31,268 --> 01:31:33,879 que puede lidiar con poderosa tecnología. 2120 01:31:33,923 --> 01:31:35,359 porque vamos a conseguir 2121 01:31:35,402 --> 01:31:36,795 sólo que cada vez más poderoso tecnología. 2122 01:31:36,839 --> 01:31:39,668 CAROLINA: Necesitamos mejorar nuestra sociedad, 2123 01:31:39,711 --> 01:31:41,496 y el primer paso es uniéndose 2124 01:31:41,539 --> 01:31:43,367 -y exigente... -TODOS: Coordinación. 2125 01:31:43,410 --> 01:31:47,023 Alguna forma de internacional cooperación o acuerdo sobre 2126 01:31:47,066 --> 01:31:48,503 cuáles deberían ser las normas. 2127 01:31:48,546 --> 01:31:49,895 Ya sabes, ¿cómo debería serán desplegados... 2128 01:31:49,939 --> 01:31:51,549 como, real diplomacia internacional 2129 01:31:51,593 --> 01:31:53,290 entre las superpotencias. 2130 01:31:53,333 --> 01:31:56,293 Los chinos están igualmente preocupados al respecto como los estadounidenses. 2131 01:31:56,336 --> 01:31:57,729 Creo que es difícil ya sabes, 2132 01:31:57,773 --> 01:31:59,514 en la actualidad clima geopolítico, 2133 01:31:59,557 --> 01:32:01,254 -pero creo que es necesario. -RASKIN: Absolutamente. 2134 01:32:01,298 --> 01:32:04,693 Exactamente de la misma manera que la última vez que la humanidad 2135 01:32:04,736 --> 01:32:09,611 desarrolló una tecnología esto peligroso... 2136 01:32:09,654 --> 01:32:12,396 ...que requirió una completa, cambio sin precedentes 2137 01:32:12,439 --> 01:32:15,530 a la estructura de nuestro mundo. 2138 01:32:15,573 --> 01:32:17,619 CAROLINA: Entonces tenemos que hacerlo completo, 2139 01:32:17,662 --> 01:32:20,883 nuevo cambio sin precedentes. 2140 01:32:20,926 --> 01:32:24,103 Ya sabes, hablamos con la gente. que trabajan en estas empresas de IA, 2141 01:32:24,147 --> 01:32:25,322 y dicen que quieren hacer algo diferente, 2142 01:32:25,365 --> 01:32:26,628 pero necesitan presión pública. 2143 01:32:26,671 --> 01:32:28,151 Necesitan al gobierno hacer algo. 2144 01:32:28,194 --> 01:32:29,979 Entonces vamos a DC, y dicen, 2145 01:32:30,022 --> 01:32:31,850 "Bueno, necesitamos Silicon Valley hacer algo diferente. 2146 01:32:31,894 --> 01:32:33,635 Ellos son los que van a Sube las barandillas." 2147 01:32:33,678 --> 01:32:35,680 Y entonces todos están señalando el dedo a otra persona, 2148 01:32:35,724 --> 01:32:39,466 y en lo que coinciden es que necesitamos presión pública 2149 01:32:39,510 --> 01:32:41,207 para algo más que suceda. 2150 01:32:41,251 --> 01:32:42,818 Y eso es lo que tu 2151 01:32:42,861 --> 01:32:44,254 y toda la gente ver esta película puede hacer. 2152 01:32:44,297 --> 01:32:45,298 CAROLINA: Necesitamos retener a los líderes 2153 01:32:45,342 --> 01:32:47,083 en nuestros gobiernos 2154 01:32:47,126 --> 01:32:48,563 y los líderes de estas empresas rindan cuentas. 2155 01:32:48,606 --> 01:32:51,000 BOERE: Cualquiera que sea el país en el que estés, 2156 01:32:51,043 --> 01:32:52,871 hazles saber que no eres feliz 2157 01:32:52,915 --> 01:32:54,569 con el status quo actual. 2158 01:32:54,612 --> 01:32:57,093 Entonces, sí, es aburrido decirlo. llame a su congresista. 2159 01:32:57,136 --> 01:32:59,356 No estoy diciendo que deberías solo haz eso, pero, como, 2160 01:32:59,399 --> 01:33:00,923 tenemos que hacer eso. 2161 01:33:00,966 --> 01:33:02,402 Como, tenemos que conseguir el gobierno involucrado. 2162 01:33:02,446 --> 01:33:03,839 DANIEL: Así que simplemente llámalos y diles: 2163 01:33:03,882 --> 01:33:05,971 "Oye, detén a las grandes tecnologías de arruinar el mundo"? 2164 01:33:06,015 --> 01:33:08,887 CAROLINE: No, pero hay toneladas de cosas realmente obvias, 2165 01:33:08,931 --> 01:33:10,672 cosas sencillas podemos ser exigentes. 2166 01:33:10,715 --> 01:33:12,499 Necesitamos transparencia. 2167 01:33:12,543 --> 01:33:14,240 Necesitamos acabar con el secretismo. que existe dentro de estos laboratorios, 2168 01:33:14,284 --> 01:33:16,634 porque están construyendo tecnología poderosa, 2169 01:33:16,678 --> 01:33:18,680 y el público merece saberlo ¿Qué está pasando? 2170 01:33:18,723 --> 01:33:20,682 En última instancia, vamos a necesitar independencia, 2171 01:33:20,725 --> 01:33:23,249 terceros objetivos para evaluar los sistemas. 2172 01:33:23,293 --> 01:33:27,036 No podemos contar con las empresas. para calificar sus propios deberes. 2173 01:33:27,079 --> 01:33:31,170 Si una empresa utiliza IA y-y tiene IA interactuando contigo, 2174 01:33:31,214 --> 01:33:34,957 debe revelar que usted es interactuando con un sistema de IA. 2175 01:33:35,000 --> 01:33:38,613 Sí. Y también necesitamos un sistema que hace que las empresas 2176 01:33:38,656 --> 01:33:41,833 legalmente responsable de la Sistemas de IA que producen. 2177 01:33:41,877 --> 01:33:45,750 Necesitamos asegurarnos de que haya son pruebas y normas de seguridad 2178 01:33:45,794 --> 01:33:48,013 que se aplican a todos. 2179 01:33:48,057 --> 01:33:49,711 Necesitamos algunas reglas básicas, 2180 01:33:49,754 --> 01:33:51,538 y tenemos que seguir adaptándonos esas reglas 2181 01:33:51,582 --> 01:33:54,585 a la velocidad que la tecnología se desarrolla. 2182 01:33:54,629 --> 01:33:57,153 LEAHY: Actualmente hay más regulación 2183 01:33:57,196 --> 01:33:59,285 sobre vender un sándwich al publico 2184 01:33:59,329 --> 01:34:02,898 que hay en la construcción AGI potencialmente capaz de acabar con el mundo. 2185 01:34:02,941 --> 01:34:04,682 CAROLINA: Y lo último es 2186 01:34:04,726 --> 01:34:07,598 para mejorarnos a nosotros mismos. 2187 01:34:07,642 --> 01:34:09,731 Este no es el trabajo. del equipo de seguridad 2188 01:34:09,774 --> 01:34:11,733 en cualquier laboratorio, o el CEO. 2189 01:34:11,776 --> 01:34:13,299 Entonces, esto es trabajo de todos. 2190 01:34:13,343 --> 01:34:14,779 No lo dejes Depende de los expertos en IA. 2191 01:34:14,823 --> 01:34:16,955 Como, [bip] eso. Como, este es el momento 2192 01:34:16,999 --> 01:34:19,262 que estamos en transición de, como, 2193 01:34:19,305 --> 01:34:21,525 poder cognitivo principalmente humano al poder cognitivo de la IA, 2194 01:34:21,568 --> 01:34:23,092 y afecta a todos, 2195 01:34:23,135 --> 01:34:24,833 y quiero que la gente sea en esa conversación. 2196 01:34:24,876 --> 01:34:26,878 Y yo diría, si piensas que la IA nos matará a todos, 2197 01:34:26,922 --> 01:34:28,488 deberías estar trabajando en la investigación de la IA 2198 01:34:28,532 --> 01:34:30,229 para asegurarse de que no sea así, porque tu tienes 2199 01:34:30,273 --> 01:34:32,188 una enorme cantidad de agencia. 2200 01:34:32,231 --> 01:34:33,842 CAROLINA: Quienquiera que seas, 2201 01:34:33,885 --> 01:34:35,844 eres un experto en su propia industria, 2202 01:34:35,887 --> 01:34:39,151 en tu propia escuela, en tu propia familia, 2203 01:34:39,195 --> 01:34:42,589 y depende de ti cómo se utiliza la IA en tu vida. 2204 01:34:42,633 --> 01:34:44,983 Si quieres unirte tu junta escolar 2205 01:34:45,027 --> 01:34:47,856 o-o si quieres preguntar su empleador 2206 01:34:47,899 --> 01:34:49,379 cómo están usando tecnologías de inteligencia artificial, 2207 01:34:49,422 --> 01:34:51,947 Todos podemos hacer el trabajo. 2208 01:34:51,990 --> 01:34:56,081 Muchos sindicatos han sido bastante efectivo en, como, 2209 01:34:56,125 --> 01:34:59,041 determinando como quieren interactuar con estos sistemas. 2210 01:34:59,084 --> 01:35:02,697 -Sindicatos de enfermeras, sindicatos de docentes. -[canto ininteligible] 2211 01:35:02,740 --> 01:35:04,568 DANIELA AMODEI: Me encantaría si los padres en todas partes 2212 01:35:04,611 --> 01:35:06,135 fue a las empresas de IA y dijo, 2213 01:35:06,178 --> 01:35:08,006 "¿Cómo puedes ser mejor? ¿En esto?" Incluyéndonos a nosotros. 2214 01:35:08,050 --> 01:35:11,183 Entonces fundé Encode Justice cuando tenía 15 años. 2215 01:35:11,227 --> 01:35:14,839 Somos los primeros del mundo. y el mayor ejército de jóvenes 2216 01:35:14,883 --> 01:35:18,364 luchando por lo humano inteligencia artificial. 2217 01:35:18,408 --> 01:35:21,019 No importa quién seas, incluso las acciones más pequeñas ayudan, 2218 01:35:21,063 --> 01:35:23,935 e incluso comienza una conversación es realmente valioso. 2219 01:35:23,979 --> 01:35:25,937 DANIEL: Entonces mi trabajo podría ser, como, 2220 01:35:25,981 --> 01:35:27,939 cuéntale a Bubby Lila sobre esto en la cena? 2221 01:35:27,983 --> 01:35:29,767 CAROLINE: Sinceramente, sí. eso es parte de esto. 2222 01:35:29,811 --> 01:35:31,638 Y vamos a tener que hacer 2223 01:35:31,682 --> 01:35:34,424 muchas cosas que Ni siquiera lo hemos pensado todavía. 2224 01:35:34,467 --> 01:35:36,034 La gente va a mirar todo lo que hemos descrito 2225 01:35:36,078 --> 01:35:37,253 y decir: "Eso no es suficiente". 2226 01:35:37,296 --> 01:35:38,950 Lo que importa es que las fuerzas 2227 01:35:38,994 --> 01:35:40,909 que estan funcionando hacia soluciones 2228 01:35:40,952 --> 01:35:44,434 empezar a superar las fuerzas que están trabajando en contra de las soluciones. 2229 01:35:44,477 --> 01:35:46,392 Haciendo el mundo mejor Siempre ha sido difícil. 2230 01:35:46,436 --> 01:35:47,829 Nunca ha sido fácil. 2231 01:35:47,872 --> 01:35:49,961 Como, ha habido muchas cosas de mierda 2232 01:35:50,005 --> 01:35:51,920 que han pasado en la historia, y hemos tenido-- 2233 01:35:51,963 --> 01:35:53,704 como, la gente ha tenido para lidiar con eso, 2234 01:35:53,748 --> 01:35:56,794 y luego se han levantado y lo cambié. 2235 01:35:56,838 --> 01:36:00,319 Hay un número loco de los desafíos que tenemos por delante, 2236 01:36:00,363 --> 01:36:04,106 pero si podemos superarlos, 2237 01:36:04,149 --> 01:36:08,066 podemos desbloquear un futuro más allá nuestra imaginación más salvaje. 2238 01:36:08,110 --> 01:36:10,416 CAROLINA: tenemos que unirnos 2239 01:36:10,460 --> 01:36:14,246 y encontrar el camino entre la promesa y el peligro. 2240 01:36:14,290 --> 01:36:16,422 No podemos ser pesimistas u optimistas. 2241 01:36:17,423 --> 01:36:19,425 Tenemos que convertirnos en algo nuevo. 2242 01:36:21,732 --> 01:36:24,474 Un amigo mio me llama un apocaloptimista. 2243 01:36:24,517 --> 01:36:26,041 ¿"Apocaloptimista"? 2244 01:36:26,084 --> 01:36:28,260 creo que eso podría ser mi nueva palabra favorita. 2245 01:36:28,304 --> 01:36:29,914 -[risas] -HOMBRE: Podría ser el nombre de esta película. 2246 01:36:29,958 --> 01:36:31,263 -Quizás sea el nombre. de esta película. -[risas] 2247 01:36:31,307 --> 01:36:34,179 -"Apocaloptimista". -"Apocaloptimista". 2248 01:36:34,223 --> 01:36:35,833 Sí. 2249 01:36:35,877 --> 01:36:37,269 No creo en la fatalidad. 2250 01:36:37,313 --> 01:36:39,054 Creo en el espíritu de la vida, 2251 01:36:39,097 --> 01:36:42,666 uh, y creo en la vida es sobre la capacidad de actuar. 2252 01:36:42,709 --> 01:36:44,276 -[multitud cantando] -La capacidad de relacionarse, 2253 01:36:44,320 --> 01:36:46,365 la capacidad de sentir. 2254 01:36:49,020 --> 01:36:50,979 -[charla de misión confusa] -[aplausos] 2255 01:36:51,022 --> 01:36:53,938 Tenemos que doblar la apuesta cada vez más 2256 01:36:53,982 --> 01:36:57,028 sobre esas capacidades que tenemos como humanos 2257 01:36:57,072 --> 01:37:00,118 que los sistemas robóticos nunca lo tendré. 2258 01:37:00,162 --> 01:37:04,296 Es el momento ahora para tomar esas decisiones sobre 2259 01:37:04,340 --> 01:37:07,473 cómo guiarlo y apoyarlo en lugar de dividirnos. 2260 01:37:07,517 --> 01:37:10,259 DANIEL: Parece que criar a un niño. 2261 01:37:10,302 --> 01:37:12,435 Eso es lo que pasa. Sí. 2262 01:37:12,478 --> 01:37:14,480 CAROLINE: La IA puede tener más inteligencia cruda 2263 01:37:14,524 --> 01:37:17,222 -que nuestros pequeños cerebros humanos, -[bebé riendo] 2264 01:37:17,266 --> 01:37:21,052 pero somos mucho más que sólo nuestra inteligencia. 2265 01:37:21,096 --> 01:37:25,056 La inteligencia es-es la capacidad de resolver problemas. 2266 01:37:25,100 --> 01:37:28,320 La sabiduría es la capacidad de saber. qué problemas resolver. 2267 01:37:30,932 --> 01:37:33,717 [charla confusa de la tripulación] 2268 01:37:33,760 --> 01:37:34,892 DANIEL: Puede ir a tu refrigerador. 2269 01:37:34,936 --> 01:37:36,198 [risas] 2270 01:37:36,241 --> 01:37:38,113 YUDKOWSKY: Así que no te rindas. 2271 01:37:38,156 --> 01:37:39,766 La humanidad ha hecho 2272 01:37:39,810 --> 01:37:42,160 cosas más difíciles que esto en su historia. 2273 01:37:43,553 --> 01:37:46,338 Es simplemente difícil de convencer personas que deberían hacerlo. 2274 01:37:46,382 --> 01:37:48,645 ♪ ♪ 2275 01:37:51,474 --> 01:37:52,562 [el audio crepita] 2276 01:37:54,912 --> 01:37:56,827 DANIEL: Entonces, cuando comencé haciendo esta película, 2277 01:37:56,871 --> 01:37:58,437 Yo diría que estaba como, 2278 01:37:58,481 --> 01:38:00,918 en general un imbécil cínico sobre todo este asunto. 2279 01:38:00,962 --> 01:38:03,094 Durante el curso de hacer la película, 2280 01:38:03,138 --> 01:38:04,661 he llegado a entender que, como, 2281 01:38:04,704 --> 01:38:07,446 eso es lo único no podemos serlo. 2282 01:38:07,490 --> 01:38:09,361 ...o cualquier otra cosa ¿te gustaría discutir? 2283 01:38:09,405 --> 01:38:11,363 No. Creo que cubrimos mucho. 2284 01:38:11,407 --> 01:38:13,017 -Sí. [risas] -HOMBRE: Muchas gracias. 2285 01:38:13,061 --> 01:38:15,498 Gracias. 2286 01:38:15,541 --> 01:38:16,891 DANIEL: Este es un problema que es más grande. 2287 01:38:16,934 --> 01:38:19,067 que cualquier persona. 2288 01:38:19,110 --> 01:38:21,547 Esto cambiará el mundo en maneras que no entendemos. 2289 01:38:21,591 --> 01:38:23,462 Todo eso es verdad. 2290 01:38:23,506 --> 01:38:25,551 -[risas]: Está bien. -[charla confusa] 2291 01:38:25,595 --> 01:38:27,684 DANIEL: Pero sobre lo que sí tenemos agencia 2292 01:38:27,727 --> 01:38:30,078 es lo que hacemos al respecto. 2293 01:38:30,121 --> 01:38:32,558 A medida que crece la IA de frontera exponencialmente más capaz... 2294 01:38:32,602 --> 01:38:34,430 DANIEL: y la realidad 2295 01:38:34,473 --> 01:38:36,562 es que si simplemente decidimos es inútil, 2296 01:38:36,606 --> 01:38:39,000 entonces es inútil. 2297 01:38:39,043 --> 01:38:40,740 ...para poner menos estrés en el planeta Tierra... 2298 01:38:40,784 --> 01:38:42,742 DANIEL: Pero si decides 2299 01:38:42,786 --> 01:38:45,528 que quieres probar... 2300 01:38:46,790 --> 01:38:48,096 ...entonces lo intentas. 2301 01:38:48,139 --> 01:38:49,967 Y eso es difícil. 2302 01:38:51,273 --> 01:38:53,188 ¿Pero sabes qué? 2303 01:38:53,231 --> 01:38:56,278 Las grandes cosas parecen imposibles antes de que realmente sucedan. 2304 01:38:58,149 --> 01:39:01,413 Pero cuando finalmente suceden, 2305 01:39:01,457 --> 01:39:05,243 es porque millones de personas tomó millones de acciones 2306 01:39:05,287 --> 01:39:07,550 para hacerlos realidad. 2307 01:39:07,593 --> 01:39:10,292 Y entonces... 2308 01:39:10,335 --> 01:39:12,424 tenemos que intentarlo. 2309 01:39:13,469 --> 01:39:14,905 [suspira profundamente] 2310 01:39:21,129 --> 01:39:23,522 Hay demasiado en juego. 2311 01:39:23,566 --> 01:39:25,611 ♪ ♪ 2312 01:39:32,401 --> 01:39:34,664 [película crepitante] 2313 01:39:37,232 --> 01:39:41,236 Mira los increíbles cambios. hemos experimentado y sobrevivido 2314 01:39:41,279 --> 01:39:42,846 de la Edad de Piedra, 2315 01:39:42,889 --> 01:39:46,110 y aún mayores cambios aún están por llegar. 2316 01:39:46,154 --> 01:39:49,157 ["Lo perdí al intentarlo" por Son Lux tocando] 2317 01:40:18,403 --> 01:40:20,449 ♪ ♪ 2318 01:40:47,606 --> 01:40:50,174 ♪ ¿Qué haremos ahora? ♪ 2319 01:40:50,218 --> 01:40:53,221 ♪ Hemos perdido el control ♪ 2320 01:40:53,264 --> 01:40:55,092 ♪ Lo hemos perdido ♪ 2321 01:40:55,136 --> 01:40:56,746 ♪ Para intentarlo ♪ 2322 01:40:59,575 --> 01:41:02,230 ♪ ¿Qué haremos ahora? ♪ 2323 01:41:02,273 --> 01:41:05,189 ♪ Hemos perdido el control ♪ 2324 01:41:05,233 --> 01:41:06,973 ♪ Lo hemos perdido ♪ 2325 01:41:07,017 --> 01:41:08,714 ♪ Para intentarlo ♪ 2326 01:41:11,630 --> 01:41:14,111 ♪ ¿Qué podemos decir ahora? ♪ 2327 01:41:14,155 --> 01:41:17,201 ♪ Nuestras bocas sólo mienten ♪ 2328 01:41:17,245 --> 01:41:18,637 ♪ Nuestras bocas ♪ 2329 01:41:18,681 --> 01:41:20,683 ♪ Sólo mintiendo ♪ 2330 01:41:25,122 --> 01:41:27,690 ♪ ¿Qué podemos decir ahora? ♪ 2331 01:41:27,733 --> 01:41:30,823 ♪ Nuestras bocas sólo mienten ♪ 2332 01:41:30,867 --> 01:41:32,216 ♪ Nuestras bocas ♪ 2333 01:41:32,260 --> 01:41:34,218 ♪ Sólo mintiendo ♪ 2334 01:41:34,262 --> 01:41:36,264 ♪ ♪ 2335 01:42:01,071 --> 01:42:03,726 ♪ Ríndete y sal ♪ 2336 01:42:03,769 --> 01:42:06,685 ♪ Nos levantamos entre los moribundos ♪ 2337 01:42:06,729 --> 01:42:08,209 ♪ Nos levantamos ♪ 2338 01:42:08,252 --> 01:42:10,211 ♪ En los moribundos ♪ 2339 01:42:13,127 --> 01:42:15,781 ♪ Ríndete y sal ♪ 2340 01:42:15,825 --> 01:42:18,654 ♪ Nos levantamos entre los moribundos ♪ 2341 01:42:18,697 --> 01:42:20,221 ♪ Nos levantamos ♪ 2342 01:42:20,264 --> 01:42:22,223 ♪ En los moribundos ♪ 2343 01:42:25,051 --> 01:42:27,663 ♪ Ríndete y sal ♪ 2344 01:42:27,706 --> 01:42:30,666 ♪ Nos levantamos entre los moribundos ♪ 2345 01:42:30,709 --> 01:42:32,233 ♪ Nos levantamos ♪ 2346 01:42:32,276 --> 01:42:34,148 ♪ En los moribundos ♪ 2347 01:42:37,107 --> 01:42:39,718 ♪ Ríndete y sal ♪ 2348 01:42:39,762 --> 01:42:42,591 ♪ Nos levantamos entre los moribundos ♪ 2349 01:42:42,634 --> 01:42:43,809 ♪ Nosotros ♪ 2350 01:42:43,853 --> 01:42:45,898 ♪ ♪ 2351 01:43:15,580 --> 01:43:17,626 ♪ ♪ 2352 01:43:22,761 --> 01:43:25,286 ♪ Oh, oh, oh, oh, oh ♪ 2353 01:43:25,329 --> 01:43:26,983 ♪ Oh, oh, oh, oh ♪ 2354 01:43:27,026 --> 01:43:28,419 ♪ Oh, oh ♪ 2355 01:43:28,463 --> 01:43:31,379 ♪ Oh, oh, oh, oh, oh, oh ♪ 2356 01:43:31,422 --> 01:43:32,945 ♪ Oh, oh, oh, oh ♪ 2357 01:43:32,989 --> 01:43:34,382 ♪ Oh, oh ♪ 2358 01:43:34,425 --> 01:43:37,036 ♪ Oh, oh, oh, oh, oh, oh ♪ 2359 01:43:37,080 --> 01:43:39,648 ♪ ¿Qué haremos ahora? ♪ 2360 01:43:39,691 --> 01:43:42,651 ♪ Hemos perdido el control ♪ 2361 01:43:42,694 --> 01:43:44,566 ♪ Lo hemos perdido ♪ 2362 01:43:44,609 --> 01:43:46,307 ♪ Para intentarlo ♪ 2363 01:43:46,350 --> 01:43:49,005 ♪ Oh, oh, oh, oh, oh, oh ♪ 2364 01:43:49,048 --> 01:43:51,703 ♪ ¿Qué haremos ahora? ♪ 2365 01:43:51,747 --> 01:43:54,706 ♪ Hemos perdido el control ♪ 2366 01:43:54,750 --> 01:43:56,578 ♪ Lo hemos perdido ♪ 2367 01:43:56,621 --> 01:43:58,406 ♪ A intentarlo. ♪ 2368 01:43:58,449 --> 01:44:00,451 ♪ ♪ 2369 01:44:23,126 --> 01:44:24,475 [termina la canción]